OpenAI發布AI訓練安全準則：失控就叫停、高階主管有一票否決權

OpenAI公布尖端AI強化學習訓練安全準則，要求啟動或持續訓練前先完成系統性安全論證。
準則涵蓋對齊訓練、沙箱隔離、即時監控與失準事件調查，高優先級警報逾時未處理將自動暫停訓練。
安全論證需經異議報告與高階主管審查，研究部門負責人、安全負責人、首席科學家皆有否決權。...