世界焦點(diǎn)！ChatGPT在意大利恢復(fù)上線 但OpenAI的監(jiān)管麻煩才剛剛開始

在剛剛過去的一周，OpenAI已經(jīng)成功安撫了意大利監(jiān)管機(jī)構(gòu)，促使其解除了對(duì)聊天機(jī)器人ChatGPT的臨時(shí)禁令，但這家人工智能研究公司與歐洲監(jiān)管機(jī)構(gòu)的斗爭仍未結(jié)束，更多挑戰(zhàn)才剛剛開始。

(相關(guān)資料圖)

今年早些時(shí)候，OpenAI廣受歡迎但備受爭議的聊天機(jī)器人ChatGPT在意大利遭遇了一個(gè)重大的法律障礙，意大利數(shù)據(jù)保護(hù)局(GPDP)指控OpenAI違反歐盟數(shù)據(jù)保護(hù)規(guī)則。為了試圖解決問題，該公司同意限制在意大利使用該服務(wù)。

4月28日，ChatGPT重新在意大利上線，OpenAI輕松解決了意大利數(shù)據(jù)保護(hù)局的擔(dān)憂，而沒有對(duì)其服務(wù)做出重大改變。這對(duì)OpenAI來說是一次明顯的勝利。

雖然意大利數(shù)據(jù)保護(hù)局對(duì)ChatGPT所做的改變表示“歡迎”，但OpenAI以及其他開發(fā)聊天機(jī)器人公司所面臨的法律挑戰(zhàn)可能才剛剛開始。多個(gè)國家的監(jiān)管機(jī)構(gòu)正在調(diào)查這些人工智能工具收集數(shù)據(jù)和生成信息的方式，理由包括收集未經(jīng)許可的培訓(xùn)數(shù)據(jù)、聊天機(jī)器人傾向于發(fā)出錯(cuò)誤信息等。

歐盟已經(jīng)開始執(zhí)行《通用數(shù)據(jù)保護(hù)條例》(GDPR)，這是世界上最強(qiáng)大的隱私法律框架之一，其影響可能會(huì)遠(yuǎn)遠(yuǎn)超出歐洲。與此同時(shí)，歐盟立法者正在制定一項(xiàng)專門針對(duì)人工智能的法律，這也很可能會(huì)開啟對(duì)ChatGPT等系統(tǒng)進(jìn)行監(jiān)管的新時(shí)代。

ChatGPT成為多方關(guān)注目標(biāo)

ChatGPT是生成式人工智能（AIGC）中備受關(guān)注的應(yīng)用之一，涵蓋了根據(jù)用戶提示生成文本、圖像、視頻和音頻等多種工具。據(jù)報(bào)道，ChatGPT在2022年11月推出僅兩個(gè)月后，月活躍用戶就達(dá)到了1億人，成為歷史上增長最快的消費(fèi)者應(yīng)用之一。

借助ChatGPT，人們可以將文本翻譯成不同的語言、撰寫大學(xué)論文，甚至生成代碼。但一些批評(píng)者，包括監(jiān)管機(jī)構(gòu)在內(nèi)，指出ChatGPT輸出的信息并不可靠，存在版權(quán)問題，并且在保護(hù)數(shù)據(jù)方面有缺陷。

意大利是第一個(gè)對(duì)ChatGPT采取行動(dòng)的國家。3月31日，意大利數(shù)據(jù)保護(hù)局指控OpenAI違反了《通用數(shù)據(jù)保護(hù)條例》：允許ChatGPT提供不準(zhǔn)確或誤導(dǎo)性信息、未向用戶通知數(shù)據(jù)收集做法、未遵守個(gè)人數(shù)據(jù)處理的法規(guī)，以及未能充分防止13歲以下兒童使用該服務(wù)。意大利數(shù)據(jù)保護(hù)局命令OpenAI立即停止在ChatGPT的訓(xùn)練數(shù)據(jù)中使用從意大利公民那里收集的個(gè)人信息。

目前，其他國家尚未采取類似的大動(dòng)作。但自3月份以來，至少有三個(gè)歐盟國家——德國、法國和西班牙，對(duì)ChatGPT展開了自己的調(diào)查。與此同時(shí)，在大西洋彼岸，加拿大正在根據(jù)其《個(gè)人信息保護(hù)和電子文件法案》(PIPEDA)評(píng)估ChatGPT的隱私問題。歐洲數(shù)據(jù)保護(hù)委員會(huì)(EDPB)甚至成立了專門的工作組來協(xié)調(diào)調(diào)查。如果這些機(jī)構(gòu)要求OpenAI做出改變，可能會(huì)影響該公司為全球用戶提供服務(wù)的方式。

監(jiān)管機(jī)構(gòu)有兩大擔(dān)憂

監(jiān)管機(jī)構(gòu)對(duì)ChatGPT的最大擔(dān)憂主要分為兩類：訓(xùn)練數(shù)據(jù)從何而來？OpenAI如何向用戶傳遞信息？

為了支持ChatGPT，OpenAI需要使用GPT-3.5和GPT-4大型語言模型(LLM)，這些模型是針對(duì)大量人工生成的文本進(jìn)行訓(xùn)練的。OpenAI對(duì)究竟使用了哪些訓(xùn)練文本始終保持謹(jǐn)慎，但表示利用了“各種授權(quán)的、公開可用的數(shù)據(jù)源，其中可能包括公開可用的個(gè)人信息”。

根據(jù)《通用數(shù)據(jù)保護(hù)條例》的規(guī)定，這可能會(huì)帶來巨大問題。該法律于2018年頒布，涵蓋了收集或處理歐盟公民數(shù)據(jù)的所有服務(wù)，無論提供服務(wù)的組織總部設(shè)在哪里?！锻ㄓ脭?shù)據(jù)保護(hù)條例》要求公司在收集個(gè)人數(shù)據(jù)之前必須獲得用戶的明確同意，收集這些數(shù)據(jù)必須有法律上的正當(dāng)理由，并對(duì)這些數(shù)據(jù)的使用和存儲(chǔ)方式保持透明。

歐洲監(jiān)管機(jī)構(gòu)聲稱，OpenAI訓(xùn)練數(shù)據(jù)的保密性意味著他們無法確認(rèn)其使用的個(gè)人信息是否最初獲得了用戶的同意。意大利數(shù)據(jù)保護(hù)局辯稱，OpenAI從一開始就沒有收集這些信息的“法律依據(jù)”。到目前為止，OpenAI和其他公司幾乎沒有受到審查。

另一個(gè)問題是《通用數(shù)據(jù)保護(hù)條例》的“被遺忘權(quán)”，它允許用戶要求公司更正他們的個(gè)人信息或?qū)⑵渫耆珓h除。OpenAI提前更新了其隱私政策，以方便回應(yīng)這些請(qǐng)求。但考慮到一旦將特定數(shù)據(jù)輸入到這些大型語言模型中，分離可能會(huì)非常復(fù)雜，是否在技術(shù)上可行始終存在爭議。

OpenAI還直接從用戶那里收集信息。就像其他互聯(lián)網(wǎng)平臺(tái)一樣，它會(huì)收集一系列標(biāo)準(zhǔn)的用戶數(shù)據(jù)，例如姓名、聯(lián)系方式和信用卡詳細(xì)信息等。但更重要的是，OpenAI會(huì)記錄用戶與ChatGPT的互動(dòng)。正如官網(wǎng)所述，OpenAI的員工可以查看這些數(shù)據(jù)，并將其用于培訓(xùn)其模型?？紤]到人們向ChatGPT提出的私人問題，例如將該機(jī)器人視為治療師或醫(yī)生，這意味著該公司正在收集各種敏感數(shù)據(jù)。

在這些數(shù)據(jù)中，可能包括未成年人的信息。盡管OpenAI的政策規(guī)定，它“不會(huì)故意從13歲以下的兒童那里收集個(gè)人信息”，但沒有嚴(yán)格的年齡驗(yàn)證門檻。這不符合歐盟的規(guī)定，該規(guī)定禁止從13歲以下未成年人那里收集數(shù)據(jù)，并且在某些國家要求搜集16歲以下未成年人的信息需獲得其父母的同意。在輸出方面，意大利數(shù)據(jù)保護(hù)局聲稱，ChatGPT缺乏年齡過濾器，使未成年人“在他們的發(fā)育程度和自我意識(shí)方面得到了絕對(duì)不合適的回應(yīng)”。

OpenAI在使用這些數(shù)據(jù)方面擁有很大的自由度，這讓許多監(jiān)管機(jī)構(gòu)感到擔(dān)憂，而且存儲(chǔ)這些數(shù)據(jù)存在安全風(fēng)險(xiǎn)。三星和摩根大通等公司已經(jīng)禁止員工使用AIGC工具，因?yàn)閾?dān)心他們會(huì)上傳敏感數(shù)據(jù)。實(shí)際上，在意大利發(fā)布禁令前，ChatGPT曾遭遇嚴(yán)重?cái)?shù)據(jù)泄露事件，導(dǎo)致大量用戶的聊天歷史和電子郵件地址曝光。

此外，ChatGPT提供虛假信息的傾向也可能帶來問題?！锻ㄓ脭?shù)據(jù)保護(hù)條例》規(guī)定，所有個(gè)人數(shù)據(jù)必須準(zhǔn)確，意大利數(shù)據(jù)保護(hù)局在公告中強(qiáng)調(diào)了這一點(diǎn)。這可能會(huì)給大多數(shù)人工智能文本生成器帶來麻煩，因?yàn)檫@些工具很容易出現(xiàn)“幻覺”，即對(duì)查詢給出事實(shí)不正確或無關(guān)的回應(yīng)。這在其他地方已經(jīng)引起了一些現(xiàn)實(shí)問題，例如澳大利亞一名市長威脅要起訴OpenAI誹謗，因?yàn)镃hatGPT謊稱他曾因賄賂入獄。

專門的監(jiān)管規(guī)則即將出臺(tái)

ChatGPT因其受歡迎程度和人工智能市場的主導(dǎo)地位，特別容易成為監(jiān)管目標(biāo)。但與谷歌的Bard和微軟與OpenAI支持的Azure AI等競爭對(duì)手和合作伙伴一樣，它沒有理由不接受審查。在ChatGPT之前，意大利已禁止聊天機(jī)器人平臺(tái)Replika收集未成年人信息。到目前為止，該平臺(tái)仍被禁止。

雖然《通用數(shù)據(jù)保護(hù)條例》是一套強(qiáng)大的法律，但它并不是為了解決人工智能特有的問題而制定的。然而，專門的監(jiān)管規(guī)則可能即將出臺(tái)。2021年，歐盟提交了其《人工智能法案》(AIA)首個(gè)版本的草案，該法案將與《通用數(shù)據(jù)保護(hù)條例》一起實(shí)施。《人工智能法案》將根據(jù)人工智能工具的風(fēng)險(xiǎn)大小對(duì)其進(jìn)行監(jiān)管，從“最小風(fēng)險(xiǎn)”(如垃圾郵件過濾器)到“高風(fēng)險(xiǎn)”(用于執(zhí)法或教育的人工智能工具)再到“不可接受風(fēng)險(xiǎn)”(如社會(huì)信用體系)。

在像ChatGPT這樣的大型語言模型出現(xiàn)爆炸式增長后，立法者現(xiàn)在正爭先恐后地為“基礎(chǔ)模型”和“通用人工智能系統(tǒng)(GPAI)”增加規(guī)則。這兩個(gè)術(shù)語指的是包括LLM在內(nèi)的大規(guī)模人工智能系統(tǒng)，并可能將它們歸類為“高風(fēng)險(xiǎn)”服務(wù)。

《人工智能法案》的規(guī)定超出了數(shù)據(jù)保護(hù)的范疇。最近提出的一項(xiàng)修正案將迫使公司披露用于開發(fā)AIGC工具的任何受版權(quán)保護(hù)的材料。這可能會(huì)暴露曾被保密的數(shù)據(jù)集，并讓更多公司容易受到侵權(quán)訴訟的影響，這些訴訟已經(jīng)對(duì)部分服務(wù)造成影響。

專門AI法律或到2024年底通過

目前來看，實(shí)施這項(xiàng)法案可能還需要一段時(shí)間。歐盟立法者已于4月27日達(dá)成了一項(xiàng)臨時(shí)人工智能法案協(xié)議，但還需要一個(gè)委員會(huì)在5月11日對(duì)草案進(jìn)行投票，最終提案預(yù)計(jì)將于6月中旬公布。然后，歐洲理事會(huì)、歐盟議會(huì)和歐盟委員會(huì)將不得不在實(shí)施該法律之前解決任何剩余的爭端。如果一切順利，它可能會(huì)在2024年下半年通過。

就目前而言，意大利和OpenAI之間的爭執(zhí)讓我們初步了解了監(jiān)管機(jī)構(gòu)和人工智能公司可能會(huì)如何談判。意大利數(shù)據(jù)保護(hù)局表示，如果OpenAI在4月30日之前滿足幾項(xiàng)提議的決議，它就會(huì)解除禁令。

這些決議包括告知用戶ChatGPT如何存儲(chǔ)和使用他們的數(shù)據(jù)，要求征得用戶明確同意才能使用這些數(shù)據(jù)，為糾正或刪除ChatGPT生成的虛假個(gè)人信息提供便利，并要求意大利用戶在注冊(cè)賬戶時(shí)確認(rèn)自己已超過18歲。盡管OpenAI沒有達(dá)到這些規(guī)定，但它已經(jīng)滿足了意大利監(jiān)管機(jī)構(gòu)的要求，并恢復(fù)了在意大利的訪問權(quán)限。

OpenAI仍需滿足其他條件，包括在9月30日之前建立更嚴(yán)格的年齡門檻，過濾掉13歲以下的未成年人，并要求年齡較大的未成年青少年獲得父母同意。如果失敗，OpenAI可能會(huì)再次被封禁。不過，OpenAI似乎已經(jīng)做出了榜樣，表明歐洲認(rèn)為人工智能公司的行為是可以接受的，至少在新法律出臺(tái)之前是這樣的。

責(zé)任編輯：李楠

關(guān)鍵詞：