5月21日，歐盟理事會(huì)正式批準(zhǔn)歐盟《人工智能法案》，標(biāo)志著全球首部用于人工智能領(lǐng)域監(jiān)管的法案即將落地生效。該法案不僅適用于所有位于歐盟境內(nèi)的人工智能使用者，還包括位于歐盟以外的人工智能系統(tǒng)軟硬件設(shè)備的供應(yīng)商等，具有廣泛的域外適用效力，對(duì)歐盟和其地區(qū)將產(chǎn)生重要影響。
推動(dòng)開發(fā)可信賴人工智能
歐盟《人工智能法案》于2021年4月由歐盟委員會(huì)內(nèi)部成員遞交提案，2023年6月以來，歐盟內(nèi)部經(jīng)過多輪會(huì)談達(dá)成臨時(shí)協(xié)議。2024年3月13日，歐洲議會(huì)以523票贊成、46票反對(duì)和49票棄權(quán)的結(jié)果，表決通過該法案。5月21日，歐盟理事會(huì)正式批準(zhǔn)該法案。該法案將在歐盟官方公報(bào)公布20天后生效，2年后全面實(shí)施。
歐盟《人工智能法案》的立法目的，在于保障歐盟公民的基本權(quán)利，激勵(lì)歐洲人工智能的投資與創(chuàng)新，推動(dòng)開發(fā)使用安全且值得信賴的人工智能。當(dāng)前，在以ChatGPT為代表的人工智能技術(shù)迅猛發(fā)展和廣泛應(yīng)用的背景下，監(jiān)管人工智能的必要性日益凸顯。人工智能技術(shù)創(chuàng)作過程具有不可解釋性，輸出結(jié)果存在極大不確定性和不穩(wěn)定性，也很難對(duì)系統(tǒng)安全性作出有效評(píng)估。未經(jīng)監(jiān)管的人工智能系統(tǒng)可能帶來濫用風(fēng)險(xiǎn)，以及個(gè)人隱私泄露、算法歧視等問題。因此，歐盟出于自身發(fā)展、安全及爭(zhēng)奪國際治理話語權(quán)等多重需要，率先制定出臺(tái)人工智能法案，為全球人工智能行業(yè)監(jiān)管治理提供了樣本。
歐盟《人工智能法案》的創(chuàng)新之處在于提出了人工智能風(fēng)險(xiǎn)等級(jí)分類方法。該法案基于人工智能系統(tǒng)對(duì)用戶和社會(huì)的潛在影響程度，將風(fēng)險(xiǎn)分為不可接受風(fēng)險(xiǎn)類、高風(fēng)險(xiǎn)類、有限風(fēng)險(xiǎn)類和最小風(fēng)險(xiǎn)類，風(fēng)險(xiǎn)等級(jí)越高，相應(yīng)管控越嚴(yán)格。其中，不可接受風(fēng)險(xiǎn)類主要包括任何試圖操縱人類行為、利用人性弱點(diǎn)或支持政府社會(huì)評(píng)分的人工智能系統(tǒng)，例如為唆使犯罪而操縱人的潛意識(shí)等，這些人工智能系統(tǒng)將被嚴(yán)格禁止開發(fā)和使用。高風(fēng)險(xiǎn)類主要是被認(rèn)為對(duì)健康、安全、基本權(quán)利和法治構(gòu)成重大威脅的人工智能系統(tǒng)，它們必須遵守更嚴(yán)格的要求。有限風(fēng)險(xiǎn)類主要是不會(huì)構(gòu)成任何嚴(yán)重威脅的人工智能系統(tǒng)，與其相關(guān)的風(fēng)險(xiǎn)主要是缺乏透明度，需要根據(jù)法案要求履行相應(yīng)公開義務(wù)。最小風(fēng)險(xiǎn)類主要包括人工智能電子游戲或垃圾郵件過濾器等應(yīng)用，法案允許自由使用最小風(fēng)險(xiǎn)類的人工智能系統(tǒng)。
另外，該法案還規(guī)定了通用人工智能模型投放市場(chǎng)的統(tǒng)一規(guī)則，以及關(guān)于市場(chǎng)監(jiān)測(cè)、市場(chǎng)監(jiān)督治理和執(zhí)法規(guī)則，提出對(duì)于包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)的支持創(chuàng)新措施。
規(guī)范使用面臨爭(zhēng)議
總體來看，歐盟《人工智能法案》通過規(guī)范和監(jiān)管人工智能系統(tǒng)的使用，意在減少濫用和其他潛在風(fēng)險(xiǎn)，確保人工智能技術(shù)發(fā)展符合社會(huì)整體利益。該法案在規(guī)范人工智能監(jiān)管的同時(shí)，鼓勵(lì)相關(guān)技術(shù)的創(chuàng)新與發(fā)展，對(duì)于保持歐洲在人工智能領(lǐng)域的競(jìng)爭(zhēng)力至關(guān)重要。該法案同樣注重個(gè)人數(shù)據(jù)隱私和權(quán)利的保護(hù)，通過對(duì)數(shù)據(jù)收集、處理和使用的規(guī)范，確保人工智能系統(tǒng)不會(huì)侵犯公民個(gè)人權(quán)利，保護(hù)個(gè)人隱私。
歐盟《人工智能法案》也面臨著一些爭(zhēng)議，該法案假定可以識(shí)別出具有不可接受或高風(fēng)險(xiǎn)水平的人工智能系統(tǒng)類別，風(fēng)險(xiǎn)類別由歐盟委員會(huì)直接定義，并在法律中予以明確。人工智能系統(tǒng)由于具有無固定任務(wù)性、適應(yīng)性、敏捷性等特點(diǎn)，其危害驅(qū)動(dòng)因素可能是純技術(shù)性的，也可能是社會(huì)性的，還可能是人機(jī)交互造成的。該法案缺乏可供審查的風(fēng)險(xiǎn)分類標(biāo)準(zhǔn)，執(zhí)行中可能會(huì)陷入過度監(jiān)管或過度包容的困境。如何在確保監(jiān)管有效性的同時(shí)，避免對(duì)創(chuàng)新和發(fā)展造成不利影響，是值得深入思考的問題。（張清亮）