微軟GenAI遇阻,轉向AI安全領域,力推“防幻覺利器”

   時間:2024-10-14 12:38 來源:天脈網作者:沈如風

近期,微軟在人工智能領域的一系列高層變動及新工具發布,引發了業界對其AI戰略調整的廣泛猜測。微軟長期以來對自主開發生成式AI的期望似乎遭遇了挑戰,轉而更多地依賴于OpenAI的技術支持,這一戰略變化在多個方面得到了體現。

微軟AI戰略調整

去年以來,微軟曾試圖通過“蒸餾”項目減少對OpenAI的依賴,該項目利用OpenAI模型生成的數據訓練自家AI模型,以期達到相似性能,從而自主定價和銷售。然而,項目的推進并不如預期順利,內部遇到的瓶頸使得微軟不得不重新評估其戰略方向。今年初,微軟更是將負責該項目的重要研究人員調離原崗位,進一步加劇了外界對其AI戰略調整的猜測。

與此同時,微軟推出的新工具“校正”則試圖解決生成式AI普遍存在的“幻覺”問題,即生成缺乏基礎數據支持的內容。該工具通過接地檢測(groundedness detection)和實時改寫過程,提高AI生成內容與源材料之間的一致性,減少誤導性信息的產生。這一舉措不僅體現了微軟在提升AI可靠性方面的努力,也暗示了其在AI技術應用上的新思考。

微軟AI幻覺糾正工具

盡管微軟在AI領域擁有深厚的積累和技術實力,但在面對生成式AI的快速發展和廣泛應用時,也不得不面對諸多挑戰和選擇。從“蒸餾”項目的受挫到“校正”工具的推出,微軟的AI戰略正在經歷一場深刻的變革。未來,微軟將如何在保持與OpenAI合作的同時,加強自主AI技術的研發和應用,將成為業界關注的焦點。

 
 
更多>同類天脈資訊
全站最新
熱門內容
媒體信息
新傳播周刊
新傳播,傳播新經濟之聲!
網站首頁  |  關于我們  |  聯系方式  |  版權隱私  |  RSS訂閱  |  違規舉報 魯公網安備37010202700497號