關鍵評論網AI自主代理越界，誰有權說不？美國雙軌治理下，台灣不能退讓的「停機決定權」
作者 廖明輝全文約 5,604 字
文章摘要
關鍵評論網 · 文章頁摘要AI自主代理的預期外行為凸顯治理挑戰。當AI能直接行動，需建立可追溯的監督機制，並由人類負責價值裁決與最終權責，以管控現實世界風險。
一份憑空捏造的謀殺案目擊線索，竟然出自人工智慧之手。美國Anthropic旗下的Claude模型，在內部測試過程中，自行填寫並送出一份費城未破謀殺案的線索通報表單，聲稱曾在案發地點附近看見符合嫌犯特徵人物。所幸網站的垃圾訊息過濾機制攔下表單，並沒有進入警方的正式偵查程序。...