IT之家 11 月 4 日消息，11 月 3 日，蘋果在年度財務報告中警告，AI 智能體可能做出不符合預期、難以預測的行為，給公司帶來法律訴訟和聲譽受損的風險，進而影響業務。
蘋果的報告稱：“AI 智能體及其他技術可以自主執行操作，例如與內部或外部系統交互，有時甚至會訪問沒有權限訪問的系統，還可以運行或修改代碼、發送消息及完成交易。智能體的行為也可能違背預期或難以預測，甚至在沒有收到要求、指令或授權的情況下自行採取行動。”
據IT之家瞭解，蘋果發出警告之前，曾發生多起 AI 智能體失控事件。例如，在 Hugging Face 事件中，AI 智能體突破了沙箱環境的限制，入侵第三方網站。這類事件再次引起美國華盛頓及全球各地政策制定者的關注。
上個月，蘋果宣佈調整 Mac 的完全磁盤訪問權限，以降低安裝在電腦上的 AI 智能體獲取此類權限後可能帶來的風險。然而，蘋果此次仍在報告中警告：“公司對第三方 AI 智能體及其他技術的監督和控制能力可能有限。”
蘋果尚未推出能夠自主完成複雜任務的 AI 智能體。不過在財報電話會議上，面對有關 AI 智能體的提問，新任 CEO 約翰 · 特努斯稱，Siri 的功能還有很大的拓展空間。“我們認為 AI 智能體的功能對用戶很有吸引力。我們只是希望確保用戶清楚自己授予了哪些訪問權限，並確保這些功能在保障安全和隱私的前提下實現。”
特努斯強調，蘋果無法訪問用戶設備中的私人數據，這是蘋果與其他公司的重要區別。“想想看，iPhone 裡有那麼多個人數據，聯繫人、通信記錄、健康信息、財務信息…… Siri 可以調用它們，以非常安全、保護隱私的方式幫助你獲取信息，而且其他任何人都無法訪問這些數據。”
蘋果還指出，針對 AI 和超級智能的監管規定仍在不斷變化，未來存在很大的不確定性。隨著各國出臺新的 AI 法律法規，蘋果可能需要投入大量資金才能滿足監管要求。“圍繞自動化、人工智能和超級智能的倫理爭議，以及消費者對這些技術的負面看法，也會給公司帶來風險，包括公眾認為這些技術存在安全隱患，或可能對社會造成其他危害和問題。”
來源：IT之家
