新聞類別
國際
詳情#
【蘋果日報】美國麻省理工學院研究團隊利用網上討論區中充斥的負面留言，創造出全球首個「變態人工智能」（AI）諾曼（Norman），以提醒世人開發AI的潛在危險。
「諾曼」以希治閣1960年代恐怖經典《觸目驚心》變態男主角為名，是一個懂得「看圖寫字」的AI系統。研究團隊先向「他」輸入大量描述人類死狀的短文，取材自美國流行討論區Reddit中一個專門討論死亡的「暗黑社群」。
提醒世人潛在危險
第二步是讓「諾曼」接受用以偵測心理問題的著名測驗「羅夏克墨迹」（Rorschach Test），以判定諾曼眼中的世界，並將諾曼的答案與傳統AI的答案比較，結果產生駭人對比。傳統AI看到「兩個人緊靠對方站着」，諾曼看到「一名男子跳出窗戶」；其他AI看到「一人手持雨傘」，諾曼看到「男子被尖叫的妻子射殺」；傳統AI看到「黑白的棒球手套」，諾曼卻看到「光天化日有男子被亂槍射死」。
團隊成員解釋，他們希望通過「諾曼」的反常聯想，向大眾解釋演算法（algorithms）的運作方式，以及內容走向偏鋒時的危險：「當我們談到AI演算法出現偏差不公時，罪魁禍首通常不是演算法本身，而是灌輸給演算法的偏頗資訊。」相關的10個墨迹測驗比對可在官方網站中瀏覽http://norman-ai.mit.edu/，並讓網民參與同樣的測驗，輸入個人意見「糾正」諾曼的想法，諾曼官網開放約兩個月，至今收到17萬個回應。
法新社/美國有線新聞網絡
「諾曼」以希治閣1960年代恐怖經典《觸目驚心》變態男主角為名，是一個懂得「看圖寫字」的AI系統。研究團隊先向「他」輸入大量描述人類死狀的短文，取材自美國流行討論區Reddit中一個專門討論死亡的「暗黑社群」。
提醒世人潛在危險
第二步是讓「諾曼」接受用以偵測心理問題的著名測驗「羅夏克墨迹」（Rorschach Test），以判定諾曼眼中的世界，並將諾曼的答案與傳統AI的答案比較，結果產生駭人對比。傳統AI看到「兩個人緊靠對方站着」，諾曼看到「一名男子跳出窗戶」；其他AI看到「一人手持雨傘」，諾曼看到「男子被尖叫的妻子射殺」；傳統AI看到「黑白的棒球手套」，諾曼卻看到「光天化日有男子被亂槍射死」。
團隊成員解釋，他們希望通過「諾曼」的反常聯想，向大眾解釋演算法（algorithms）的運作方式，以及內容走向偏鋒時的危險：「當我們談到AI演算法出現偏差不公時，罪魁禍首通常不是演算法本身，而是灌輸給演算法的偏頗資訊。」相關的10個墨迹測驗比對可在官方網站中瀏覽http://norman-ai.mit.edu/，並讓網民參與同樣的測驗，輸入個人意見「糾正」諾曼的想法，諾曼官網開放約兩個月，至今收到17萬個回應。
法新社/美國有線新聞網絡
回應 (0)
