為什麼人工智慧極聰明卻又極度愚蠢

講述了關於人工智慧的一些辛辣想法,指出人工智慧雖然強大,但在常識方面常犯錯誤。作者提到了目前大型語言模型的問題,以及人工智慧需要更小、更民主化、更注重人本主義的發展方向。他強調了常識知識的重要性,並提出了創新資料和演算法的方法。最後,他討論了如何讓人工智慧獲得真正的常識知識,並強調透明度和研究的重要性。討論中提到了孩童是如何習得常識的,以及如何將研究結合到已有的人工智慧模型中。

總結來說,人工智慧在今日社會扮演著重要的角色,儘管它展現出了驚人的智能,卻也在常識和人性價值觀方面顯示出了脆弱性。要讓人工智慧永續且人本主義化,我們需要將其教導常識、規範和價值觀,並且開放資料以確保多樣性和透明度。透過創新演算法和資料,我們可以朝著這個目標邁進,並且在人工智慧領域持續追求更有意義的研究和發展。

 

我的收藏文章

  • 人工智慧在智能和常識推理上的雙重特性:展現出強大的能力,如打敗世界級圍棋冠軍,但在常識推理上卻存在缺陷。
  • 極大規模語言模型的成本和對環境的影響:這些模型的訓練成本高昂,只有少數科技公司能夠承擔,導致權力集中,並對環境造成負擔。
  • 人工智慧的民主化和人本主義化:需要將人工智慧的規模縮小,使其更加普及,並教育它們人類的常識和價值觀。
  • 常識在人工智慧領域的重要性:常識是人工智慧發展的關鍵,但長期被忽視,現在需要重視。
  • 對抗人工智慧常識缺失的策略:教授的團隊致力於開發新的演算法,如符號知識蒸餾,以創建更有常識的人工智慧模型。
  • 人工智慧的未來發展:人工智慧將成為一種新的智慧物種,我們需要確保它們的永續和人性化發展,並教育它們常識、規範和價值觀。
  1. 作者提到現代人工智慧模型通過什麼測試來顯示其能力,但在常識方面又常會出錯?
  2. 在討論常識的重要性時,作者提到了什麼思想實驗來說明人工智慧可能無法理解人類的價值?
  3. 作者如何比喻現代人工智慧與登月之間的關係,以及他對於提升人工智慧常識的看法是什麼?