近日，科技界傳來了一則引人深思的報道，關于Anthropic公司首席執行官達里奧·阿莫代伊對未來高級AI模型的新穎構想。據外媒報道，阿莫代伊在一次公開訪談中提出了一個頗具顛覆性的觀點，他設想未來的AI系統或將被賦予一種特殊功能——“退出按鈕”，這一設計旨在讓AI在遇到不愿執行的任務時能夠主動選擇退出。
在訪談中，阿莫代伊坦言這一想法或許會讓他顯得“瘋狂”，但他堅持認為，隨著AI技術的飛速發展，這些系統已經能夠執行多樣化的任務，并展現出越來越接近人類的認知能力。他形象地比喻道：“如果它像鴨子一樣叫、像鴨子一樣走，也許它就是鴨子。”這一表述旨在強調AI在行為上的擬人性。
此次訪談的契機是數據科學家卡門·多明格斯提出的一個問題，她詢問Anthropic公司為何在2024年底聘請了AI福利研究員凱爾·費什，以探索AI模型是否可能具備感知能力，以及是否應獲得道德上的考慮和保護。阿莫代伊對此回應稱，公司正在積極探索這一領域，費什的研究正是這一探索的重要組成部分。
費什目前的研究聚焦于AI是否擁有感知能力，以及是否應享有道德保護這一極具爭議的話題。阿莫代伊進一步解釋說，他們正在考慮的一種可能做法是，在將AI模型部署到實際環境中時，為其配備一個“我放棄這項工作”的按鈕。這一設計基于一個簡單的偏好框架，即如果AI模型真的具備自主意識，并且非常厭惡某項工作，它就可以選擇按下這個按鈕。
阿莫代伊強調，這一設想的初衷并非要完全相信AI的自主意識，而是提供一種機制來觀察AI的行為模式。他指出：“如果你發現模型經常按下這個按鈕，做一些非常不愉快的事情，也許你應該關注一下。這至少表明，AI在某些情況下可能對其執行任務產生了不滿或抵觸情緒?！?/p>
