危險!臉書讓2個AI機器人互相對話學習,竟自創「人類不懂的全新語言」緊急關閉!

數年來,不少企業積極投入機器人開發,希望能夠借助機器人之力,使人類文明更上一層樓;然而也有另一派人士擔心未來人類恐將被機器人取代。然而,這項擔憂恐怕必非空穴來風。   過去,臉書積極開發 AI 聊天機器人 (Chatbots),最近更首次嘗試讓機器人互相對話,藉此學會

August 1, 2017
選擇語言:

數年來,不少企業積極投入機器人開發,希望能夠借助機器人之力,使人類文明更上一層樓;然而也有另一派人士擔心未來人類恐將被機器人取代。然而,這項擔憂恐怕必非空穴來風。

 
過去,臉書積極開發 AI 聊天機器人 (Chatbots),最近更首次嘗試讓機器人互相對話,藉此學會溝通與協商;但實驗結果卻超出研究人員意料之外,機器人竟自己發展出「非人類的新語言」!

 

實驗中,研究人員讓兩台 AI 聊天機器人愛麗絲 (Alice) 和鮑伯 (Bob) 針對「瓜分物品」進行討論與談判,中途卻發生機器人出現亂語的狀況,使得研究人員必須暫停實驗,不料當他們檢查後,卻發現愛麗絲與鮑伯 是在使用只有他們自己聽得懂的特殊程式碼進行溝通。

Facebook AI Robots Shut Down After They Secretly ‘Invent Their Own Language’ i robot
 
根據《新科學家》(New Scientist) 周刊,兩台 AI 機器人覺得比起使用研究人員設定的程式語言溝通,使用他們自己研發的程式碼更加方便,因此自行做切換。
廣告1

 

當時,他們正在交換球,鮑伯說,「我可以,我,我,其他一切 (I can i i everything else)」,愛麗絲則回,「球對我我我來說說零……(Balls have zero to me to me to me……)」研究人員認為他們是在試圖解決彼此遇到的困難。

Facebook AI Robots Shut Down After They Secretly ‘Invent Their Own Language’ ex machina

 

曾於臉書 AI 研發部門工作的喬治亞理工大學研究科學家 Dhruv Batra 解釋,AI 機器人使用人類設定的語言「英語」不會得到獎勵,因此他們決定自己來發明代碼字和短語系統,這是可能發生的,AI 不僅能保存字符,也能把它壓縮成可以表達更為複雜的思想的形式,「如果我說了五次the,那代表我要5個這個東西。其實這和人類的溝通並沒有差太多。」

Facebook AI Robots Shut Down After They Secretly ‘Invent Their Own Language’ Davids head
 
對此,臉書官方則解釋說,研究人員之所以關閉系統,是因為他們比較希望 AI 是與人溝通,而不是互相溝通。事實上,這並非第一次 AI 自己發明語言,過去 Google 翻譯也曾發明出比資料內建更方便溝通的「內部語言」。

來源:Lad Bible|UniLAD

TEEPR 亮新聞著作權聲明:非法抄襲TEEPR 亮新聞網站請注意,本站所有內容皆由自家TEEPR 亮新聞 編輯撰寫,並非如非法內容農場複製貼上。本網站之文字敘述、圖片、影像視聽及其他資訊等,非經授權,不得轉載。如侵權將立刻請臉書封鎖專頁。微改標題、圖片、前段,仍然抓得到!
分類:台灣, 世界, 科技
加入粉絲團! 危險!臉書讓2個AI機器人互相對話學習,竟自創「人類不懂的全新語言」緊急關閉!留言按此 好友人數分享! 好友人數加入好友
廣告
廣告