公司新聞 
AI業又一里程碑！OpenAI及甲骨文將接受美政府模型發布前預測試
2024-08-31 12:43:54
瀏覽次數：
次
返回列表美國人工智能行業正在逐步接受政府的指導。周四，OpenAI和甲骨文宣布將與美國人工智能安全研究所簽署合作協議。
該研究所隸屬于美國商務部國家標準與技術研究所。其在一份新聞稿中表示，該所將在各公司的主要新模型公開發布之前，以及發布之后獲得這些模型的使用權。
OpenAI及甲骨文則指出，它們已經同意向人工智能安全研究所提供新模型的測試權利，在通過測試后，模型再面向公眾發布。
OpenAI首席執行官奧爾特曼表示，很高興與人工智能安全研究所達成協議，以對該公司的模型進行預發布測試。
該公司首席戰略官Jason Kwon也指出，公司相信該研究所發揮著關鍵作用，以確保美國AI界負責任地開發人工智能，希望能與研究所一起為全球其他國家提供一個可被借鑒的管理框架。
美國人工智能安全研究所成立于2023年，距離拜登發布美國史上首個人工智能行政命令不過寥寥數日。NG體育其也是白宮對人工智能進行評估、指導以及研究的關鍵機構。
美國人工智能安全研究所所長Elizabeth Kelly表示，與OpenAI和甲骨文的協議只是一個開始，其代表了研究所管理人工智能未來的重要里程碑。
而就在本周三，作為美國科技前沿的加利福尼亞州議會通過了一項備受質疑的人工智能安全法案，其強制要求公司對成本或計算能力達到一定規模的人工智能模型進行安全測試，并提供其他保障措施。
該法案的通過可能迫使不少科技公司進一步向監管“投誠”，以換取盡可能大的創新自由。
除此之外，OpenAI也一直因為安全問題而受到批評。據該公司前雇員Daniel Kokotajlo指出，在過去幾個月里，公司出現了緩慢而穩定的離職潮，關注人工智能長期風險的OpenAI員工有一半已經離職。
其可能證明了OpenAI內部對于新模型安全性能的忽視正在引發內部的普遍不滿。這當然也引發了美國政府部門的關注，而選擇此時與美國人工智能安全研究所合作，或許正是OpenAI打消外界疑慮的最好宣傳之一。
