MoneyDJ新聞 2026-09-22 10:45:35 黃智勤 發佈  OpenAI提出國際AI安全標準建議，希望建立全球一致的AI事故分類、通報與應變機制，並警告先進AI若具備自行改進能力可能帶來的失控風險。
綜合外媒報導，OpenAI週一(21日)公布前沿AI安全與資安標準建議，主張透過各國既有的AI安全機構協調制定共同標準，美國方面可由商務部旗下「AI安全與創新中心」(Center for AI Security and Innovation)參與推動。
OpenAI建議建立全球共通的AI事故衡量與分類方式，針對AI系統出現的對齊(alignment)問題，制定一致的追蹤、通報及應變機制，涵蓋模型正式部署前測試階段發生的事故，以及投入現實環境使用後出現的問題。
OpenAI特別示警「遞迴式自我改進」(Recursive Self-Improvement, RSI)，也就是讓AI模型自行進行研究、改進甚至升級自身能力的技術的風險；這項技術被視為可能加快AI開發的重要工具，但也可能導致人類逐漸失去對AI的控制。
OpenAI警告，若缺乏適當的安全措施，RSI可能導致人類失去對AI開發的實際控制，甚至無法有效監督已難以理解的AI研究過程；因此，OpenAI主張，AI安全研究的進展必須跟上模型能力提升速度，確保AI系統仍符合人類價值並受人類控制
市場日益關注AI帶來的安全風險，Anthropic執行長阿莫迪(Dario Amodei)近期也公開示警AI的安全風險，呼籲降低提升先進AI模型能力的速度。
AI新創Anthropic近期宣布與顧問巨頭埃森哲(Accenture)合作進行嵌入式安全評估，在內部部署安全性評估團隊，以進行紅隊演練（模擬攻擊或惡意使用情境，以找出模型安全漏洞）、進行對齊評估（測試AI模型行為是否符合人類價值）並強化安全防護。
Axios報導，美國財政部長貝森特(Scott Bessent)和中國國務院副總理何立峰近期也討論建立「美中AI對話」的可能性，構想之一是在AI事故風險升高至涉及國家安全的程度時，由美中相互通報。
(圖片來源：shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
|