6月13日消息,據國外媒體報道,谷歌一名人工智能開發團隊工程師認為該公司開發的人工智能聊天機器人已經具有感知力,并分享了與其之間的聊天記錄,遭到谷歌以違反保密協議為由而勒令停職。
谷歌AI倫理研究員Blake Lemoine寫了一篇長達21頁的調查報告上交公司,試圖讓高層認可AI的人格,目前正通過主流媒體和社交網絡接連發聲,連同與AI的聊天記錄一起公之于眾。
據悉,LaMDA是谷歌于2021年I/O大會上推出的對話AI系統,專為對話優化的自然語言處理模型。向包含200人左右的谷歌機器學習郵箱列表發送了一條信息,主題是“LaMDA是具有感知的”,此后谷歌以違反其保密政策為由,讓Lemoine休假。在他被停職的前一天,他把文件交給了一位美國參議員的辦公室,聲稱這些文件提供了谷歌及其技術參與宗教歧視的證據。
幾個月以來,Lemoine一直在與谷歌的經理、高管和人力資源部門爭論這一想法,即LaMDA具有意識和靈魂。他認為LaMDA只是一個七八歲的孩子,希望公司在進行實驗之前征得它的同意,還表示公司的人力資源部門歧視他的宗教信仰。
谷歌對此進行了反駁,稱其系統模仿了對話交流,可以即興發揮不同的話題,但沒有意識。谷歌發言人布萊恩 · 加布里埃爾(Brian Gabriel)在一份聲明中表示: “我們的團隊,包括倫理學家和技術專家已經根據我們的人工智能原則審查了布萊克的擔憂,并告知他,他的說法并未得到證據證實。在人工智能領域一直有這種擔憂,但將當今沒有意識的對話模型擬人化是沒有意義的。”
關鍵詞: