AI這麼強，為什麼「9.11和9.8哪個數字大」這種小學問題還會答錯？

AI並不知道什麼是對，什麼是錯，因為我們從來沒有教過AI這件事情。這就是AI研究領域當中著名的「對齊問題」，AI並不會總是按照人類想要的規則和價值觀去做事情，AI本來就沒有內建這些東西。於是就形成了一個弔詭的現象：AI經過訓練後的各項（聽說讀寫）基本能力很厲害，但是它卻不懂任何正式的規則。...