歐盟理事會(huì )5月21日正式批準歐盟《人工智能法案》（以下簡(jiǎn)稱(chēng)《法案》），該法案成為世界上首部對人工智能進(jìn)行全面監管的法案?！斗ò浮吠ㄟ^(guò)后，歐盟就宣布成立人工智能辦公室，依法對人工智能發(fā)展進(jìn)行監管。

《法案》的頒布，意味著(zhù)歐盟以外的組織機構在其人工智能平臺中使用歐盟國家各領(lǐng)域的數據時(shí)，必須遵守該法。因此，該法案可能會(huì )給其他國家和地區人工智能發(fā)展帶來(lái)重要影響。對《法案》主體內容進(jìn)行分析，可以發(fā)現，人工智能發(fā)展的風(fēng)險控制和安全管理是永恒主題。

確保操作者和使用者有人工智能素養

現階段，人工智能技術(shù)飛速發(fā)展，同時(shí)在各大經(jīng)濟體中引發(fā)激烈競爭，發(fā)展過(guò)程中容易忽視風(fēng)險管控和安全管理。人工智能技術(shù)的研發(fā)和應用不僅不得損害人類(lèi)權利和尊嚴，而且要最大程度增進(jìn)人類(lèi)福祉。

歐盟在《法案》第一章總則部分，闡明了出臺目的是改善歐盟內部市場(chǎng)運作，推動(dòng)開(kāi)發(fā)值得信賴(lài)的人工智能應用，同時(shí)確保對健康安全、民主法治和環(huán)境保護等《歐盟基本權利憲章》所規定權利的高度保護，使其免受聯(lián)盟內人工智能系統的有害影響。

《法案》具體內容表現出對人工智能系統提供者和使用者人工智能素養的重視，要求系統的提供者和部署者應采取措施，盡最大努力確保操作和使用人工智能系統的人員具有足夠的人工智能素養?！斗ò浮访髁罱沽艘幌盗袚p害人的主體地位和基本權利的行為。這些行為包括：在人工智能系統投入和使用過(guò)程中，采用超出個(gè)人意識范圍的潛意識技術(shù)或欺騙性技術(shù)，損害人們作出知情決定的能力，導致人們作出本來(lái)不會(huì )作出的決定；對年齡、殘疾或經(jīng)濟狀況處于弱勢地位群體的歧視；對個(gè)人或群體進(jìn)行評估分類(lèi)或是預測他們刑事犯罪風(fēng)險程度的行為。當然，如果用戶(hù)認為該系統會(huì )對其健康、安全或基本權利產(chǎn)生不利影響，則有權要求人工智能系統部署者作出明確解釋。

明確違反人工智能相關(guān)法律條款的問(wèn)責機制

歐盟制定并通過(guò)《法案》，在一定意義上是通過(guò)框架性法律，明確當前歐盟人工智能發(fā)展倡導什么、反對什么、禁止什么。人工智能發(fā)展治理，要經(jīng)過(guò)嚴格且審慎的程序，在起草、審議、簽署、正式生效等重要環(huán)節確保立法程序的嚴謹。

根據歐盟消息，《法案》的草擬、審議和推行也是多方利益博弈的結果。歐盟委員會(huì )在公眾咨詢(xún)期內征集了來(lái)自不同國家、不同機構的意見(jiàn)書(shū)，法案最終版本的定稿經(jīng)歷了歐盟成員國內多輪談判和修訂。在立法準備階段，歐盟先是就法案內容征求了公眾意見(jiàn)，包括非政府組織、企業(yè)、商業(yè)協(xié)會(huì )等機構，范圍不僅僅局限于歐盟內部成員國，也擴展到了歐盟以外的其他國家和地區。接著(zhù)，歐盟內部進(jìn)行了多次談判和意見(jiàn)交換，對草案提出了數千項修正提案。2023年12月，歐盟理事會(huì )、歐洲議會(huì )和歐盟委員會(huì )三方達成一致協(xié)議，助推《法案》最終正式通過(guò)。

在《法案》中，歐盟明確了違反法律條款的問(wèn)責機制，具體形式包括罰款和警告等非經(jīng)濟措施。其中，《法案》將問(wèn)責對象分為以下兩種：一是對工會(huì )組織、機構和團體的行政罰款，二是通用人工智能模型提供者的罰款。針對歐盟內部行政機構的違法行為，相關(guān)執法人員有權對該法案適用范圍內的聯(lián)盟機構、團體、辦事處和機關(guān)處以罰款。對于提供通用人工智能模型的企業(yè)或組織存在故意或過(guò)失行為，歐盟委員會(huì )可對其進(jìn)行罰款，但在罰款金額的確定上遵循有效、適度且具有懲戒力原則。對于包括初創(chuàng )企業(yè)在內的一些中小企業(yè)，應充分考慮他們的利益和經(jīng)濟可行性。

強調對高風(fēng)險人工智能系統的規范和約束

歐盟認為，對人工智能發(fā)展進(jìn)行治理，不是限制人工智能技術(shù)創(chuàng )新、數字產(chǎn)業(yè)發(fā)展，而在于通過(guò)法律手段調整各種關(guān)系，使人工智能發(fā)展的必要條件得到法律保護。

歐盟在《法案》中，將人工智能系統劃分為不同的等級：不可接受風(fēng)險類(lèi)、高風(fēng)險類(lèi)、有限風(fēng)險類(lèi)和最小風(fēng)險類(lèi)，風(fēng)險等級越高，相應管控越嚴格?！斗ò浮窂娬{對高風(fēng)險人工智能系統的規范和約束。一是在高風(fēng)險人工智能系統的整個(gè)生命周期中，定期對系統進(jìn)行審查和更新的風(fēng)險管理制度。二是涉及用數據訓練人工智能模型的技術(shù)的高風(fēng)險人工智能系統，應在訓練、驗證和測試數據集的基礎上開(kāi)發(fā)和使用。三是應在高風(fēng)險人工智能系統投放市場(chǎng)或投入使用前起草技術(shù)文件，同時(shí)在系統投入使用過(guò)程中做好記錄保存。四是高風(fēng)險人工智能系統的設計和開(kāi)發(fā)，應確保其運行足夠透明，能夠解釋系統輸出內容，并確保它能被適當使用。

《法案》要求，歐盟各成員國至少建立一個(gè)人工智能監管沙盒（AI Regulatory Sandboxes）。在新型人工智能系統投放市場(chǎng)或投入使用前，監管沙盒能夠提供一個(gè)可控的環(huán)境，在有限的時(shí)間內進(jìn)行人工智能系統的研發(fā)創(chuàng )新、培訓、測試和驗證，以便主管部門(mén)查明系統潛在風(fēng)險，有效促進(jìn)產(chǎn)業(yè)創(chuàng )新、提升競爭力，推動(dòng)人工智能生態(tài)系統的可持續發(fā)展。此外，《法案》明確了人工智能辦公室、歐洲人工智能委員會(huì )的設立。同時(shí)，《法案》明確表示，設立董事會(huì )，為委員會(huì )和成員國提供建議和協(xié)助；設立咨詢(xún)論壇，向理事會(huì )和委員會(huì )提供技術(shù)方面的咨詢(xún)意見(jiàn)；成立獨立的專(zhuān)家科學(xué)小組，向人工智能辦公室提供建議和支持。

歐盟對人工智能發(fā)展進(jìn)行立法，意味著(zhù)歐洲內部對人工智能的未來(lái)部署和應對行動(dòng)，已經(jīng)達成了共識?！斗ò浮芬唤?jīng)出臺，也引發(fā)不少爭議，如執行中可能陷入過(guò)度監管或過(guò)度包容的困境，不利于人工智能發(fā)展和創(chuàng )新等。如何更好地迎接人工智能發(fā)展帶來(lái)的機遇和挑戰，已經(jīng)成為現階段和未來(lái)全球需要探討的課題。

（作者單位系浙江師范大學(xué)教育學(xué)院）

《中國教育報》2024年06月06日第9版