《2062：人工智慧創造的世界》閱讀筆記
《2062：人工智慧創造的世界》
2062: The World that AI Made by Toby Walsh
English translation here.
閱畢全篇可領贈品。請享受閱讀。
人工智能只需互傳程式碼就可共同學習，遠比人類集體學習更佳：AlphaGo 是靠學習而不是靠程式打敗人類圍棋界
電腦是能執行任何程式的通用機器，且程式能自我修改
電腦是人類唯一發明過的通用機器，想像通用旅行機（能上山下海去月球）的樣子
電腦相對人腦優勢：記憶容量、運作速度、電量、無休、不忘、沒有情緒、共同學習、拙於計算
人類相對電腦優勢：學得很快而且不需大量資料、善於解釋本身決定、對世界理解深刻、善於應變
什麼時候電腦會有一成、五成、九成的機率能把大部分人類行業，至少做得跟一般人類一樣好？
人工智能專家的答案中位數為：2034、2062、2112
非專家的答案中位數為：2026、2039、2060
非專家看到人工智能在棋局擊敗人類，會認為賴於高度智慧，其實圍棋程式只會下圍棋
作者反對「科技奇點無可避免」的論點：
「思考更快的狗」仍然是狗，運算速度提升未必等於智慧提升
奇點的轉折點或與人類智慧無關，或需遠高於人類智慧，而我們未夠聰明製作這樣的機器
解決問題能力有別於學習能力，華文傳譯程式超越人類但仍不會改良自己
報酬遞減：智慧機器的智力增幅會越來越難
智慧的極限：就如人類壽命、化學反應速度、物理速度都有極限
運算複雜度：如曼德博集合的運算問題，需要遠超幾何級數的算力增長，才能實現準確度的線性增長
不利反饋：例如大量失業造成消費需求瓦解，摧毀經濟，妨礙造就奇點所需的研發投資
複雜度煞車：要再有進展，必須有越來越專門的知識，被迫發展越來越複雜的科學理論
幾何級數的增長型態常有瓶頸，如優步司機的對數線增長不會永續
可信歷史預測曾經出錯，Henry Adams 提出從 1840 年到 1900 年間，每噸煤釋放的能量每十年翻倍，所以到 2000 年，動力將會無限
以上十個原因並沒有表示不可能
人工智能風險
如點石成金最終餓死的錯誤目標設定：萬字夾、為不被關機自衛殺人
自我修改目標而變得危險（如派軍事顧問到越南卻發展成戰爭）
對人類命運無感，如我們建廠不會關注址上蟻窩
物理學巨擘當年聲稱從原子擷取能量是天方夜譚
克拉克第一定律：當出眾但年長的科學家聲明某事有可能，幾乎肯定對，但聲明不可能，十有八九是錯
作者聲明科技奇點並非不可能
作者認為馬斯克研發大腦介面的說法沒有說服力：我們已有非常快的大腦介面：眼睛；資料傳輸率並非人類認知的限制因子：看電影（含巨量資料）並沒令我們學得更多
人工智能與意識
自然飛行與人工飛行的解決之道有所不同，自然的解決之道不一定最容易或最好；人工智慧可能與自然智慧非常不同，可能沒有意識
最有智慧的無脊椎動物頭足綱，發展智慧方式與我們有天壤之別，每隻爪都能獨立於其他各隻感受思考
人工智能若有情緒也或與我們有別
我們人類的行動常常不符我們自己定下的倫理標準，機器難靠觀察人類行為學習倫理
工作末日
1930 年凱恩斯警告科技性失業，大多國家現今失業率卻處於歷史新低
2013 年牛津大學的 Carl Frey 指未來廿年自動化將威脅美國 47%的工作；技術上可行不等於經濟上可行，例如即單車修理工可自動化，也不符成本效益，客仍然想跟修理工交流提取情報
封閉性工作或會被取代，如地球上需要清洗的窗戶數目固定；開放式工作會因自動化而擴展，如化學家不可能把有待了解的新化學都找完；很多工作處於兩者之間，例如法律行業，文獻有限但亦可擴展市場產生更多需求
即使機器可以取代人類，人類仍會珍惜共通的人類經驗
戰爭末日
戰爭第一波革命源自火藥發明，第二波是美國創造核武，第三波將是致命自主武器
對小型無人機撰寫程式，加入一般手機都有的人臉辨識軟體，搭載高級炸藥，將載有一萬架這種無人機的貨車開進紐約，就能發動與 911 不相上下的襲擊
我們未知道如何打造符合倫理的機械人，即使如此也阻止不了武器被盜用後的行事
武器若運用機器學習辨識目標，問責缺口會特大
各國人工智能專家均在聯合國層次支持監管自主武器
人類價值末日
將土耳其文譯成英文時，無性別代名詞的谷歌翻譯帶有性別偏見
ProPublica 研究發現預測再犯率的演算法 COMPAS 對黑人被告預測比實際高，對白人比實際低
2015 年谷歌將一對黑人男女的相片標注為大猩猩
旅遊網站 Orbitz 向 Mac 用家提供的旅店比微軟視窗用家貴
對價格歧視的反制也未必合理，如歐洲法院在 2012 年裁定保險公司不能對男女保戶收取不同保費
公平有多種度量衡，把決定交給演算法時，內容必須明確
密芝根大學交通研究所 2015 年研究發現，儘管自駕車很少犯錯，行使百萬英里就會撞車 9.1 次，人類駕駛為 4.1 次，因有時小處違法可使事故風險降低，如避黃燈急剎或捱撞
作者要對大眾做實驗需向所屬大學倫理審查會尋求許可，2014 年臉書卻隨意把正面和負面貼文封鎖，測試對象會否心情變化，企業倫理備受關注
2062 年每間大公司都需要哲學長 CPO，幫助公司決定人工智能要怎樣行動
平等末日
涓滴經濟學實驗：2012 年堪薩斯州州長對企業和富人大方減稅，最後經濟不振投降；加州 2012 年 11 月通過第 30 號提案，暫時調高最富有居民的州所得稅，提高營業稅，自此享受各州最勁經濟增長
2007 年末季市值最大上市公司：中國石油、埃克森美孚、奇異、中移動，十年後：蘋果、谷歌、亞馬遜、微軟
科技公司數位商品複製無成本，淨利率高，但繳稅甚少
亞馬遜 2016 年在歐洲收入 195 億英鎊，繳稅只 1500 萬英鎊，不到營收的 0.1%；蘋果在 2014 年愛爾蘭稅率只有 0.005%
優步將體系中很多價值納為己有，憑著區塊鏈科技我們能建立分權信譽系統，不再需要像這樣的中間人
改善生活的科技很多不是企業產物，網際網絡由美國國防高等研究計劃署資助，全球資訊網由歐洲核子研究組織發明，還有觸控螢幕、衛星定位系統、siri 背後的科技
要確保 2062 年的企業在服務公益上調校得更好，其中一個選項是把執行長看管好，讓員工和股東有更佳代表性更大發言權，如在德國，員工超二千，公司就須有監事會，半數由員工出任，可定主管薪資，及僱用或解僱執行長和其他執董
還有合作社、稅務改革、就業法令改革、資料壟斷監管等
全民基本收入罕有吸引政治雙方支持，左派認為可實現平等，右派視之為減少官僚的辦法
科技公司也開始覺醒自身責任，2017 年谷歌宣佈未來五年對非營利組織投入十億，同年臉書宣布停止把歐洲廣告營收登記在愛爾蘭，透露出積極避稅的末日來臨
私隱末日
英國數學家 Clive Humby：資料就是新石油，有價值但需提煉
匿名資料也會透露私隱：2006 年網飛舉辦設計更好的電影推薦系統競賽，並公佈幾十萬名用戶的電影評價數據，德州大學研究員發現將資料比對網絡電影資料庫，便可辨認出資料集中的用戶
公司有權運用我們的資料並開發商品向我們推銷，連生理資料都不在例外
蘋果力挺私隱權聲明，屢拒政府要求解鎖裝置，面對中國政府卻全面低頭，為遵循中國的新資料法，將全數資料移到政府擁有的公司伺服器
中國社會信用評分系統易被濫用，即使對民主各國的政府機關，監控未加密的電郵太容易也太誘人
2062 年時我們的裝置應不用仰賴谷歌或其他雲端服務，健康監控器不必跟 fitbit 共享生命統計數據，裝置會有人工智能私隱和安全助理坐鎮
政治末日
社群媒體開始在起義中扮演關鍵角色
辯駁無效後臉書終認假新聞現象，並主張因帖文量大，唯一希望是演算法，但類似演算法也能產生假新聞，假新聞演算法也會變得更聰明
臉書實驗影響投票：2012 年臉書與加州大學聖地牙哥分校研究人員，針對不知情的大眾做實驗，把用戶隨機三分，各自看到「今天是投票日」、前者加有朋友說已經投了票的訊息、和控制組，兩年後結果才發佈在《自然》上
社群媒體可用極少成本非常集中鎖定小群體，如 Chong & Koster 數碼廣告公司舉辦的網上政治宣傳，同樣金額如花在郵寄品，覆蓋率分別為 20 萬對 7500 萬
聲稱要把世界拉在一起的臉書，販賣鎖定少數群體的政治廣告，做出分裂社群、令世界更撕裂的事
據估計川普的四千八百萬推特追蹤者中，有約一千四百萬是假的；麻省理工電腦科學暨人工智慧實驗室研究員 Bradley Hayes 以機器學習做出推特機械人模仿總統發言，推文神似川普本人
日報沒落時代，媒體公司收入大減，第四權制衡問題待解
或許 2062 年我們決定將政治廣告從社群媒體中禁掉，或者只准廣播不准窄播
西方末日
中國科技公司規模與投資非常可觀，騰訊與臉書市值只差些微
中國對私隱態度鬆散，使在蒐集資料的人工智能競賽中優勢大增
柯潔敗於人工智能兩個月後，中國國務院發佈規劃：2020 年時在人工智能要具全球競爭力，2025 年要在該領域基本理論有重大突破，2030 年要在該領域稱霸世界
2016 年美國的電子支付總額為 1120 億美元，少中國 45 倍
2016 年中國相當於每週興建將近一所大學；2030 年預計全球所有 STEM 畢業生中，中國佔四成以上，美國佔 4%歐洲 8%
過去十五年間中國投入科研經費增加六倍以上，美歐只增五成，2020 年預計會超過美國成最大支出國
美國 2016 年 11 月的同類計劃多半受到忽視，現在科技政策辦公室編制人員裁減了約三分之二，連主任也職位懸空
印度政府把數位印度計劃在 2018 到 19 年預算增至近 5 億美元，但天津只是中國第四大城，2017 年便宣布投入 50 億美元的基金以支持人工智能產業
中國看來注定獲勝，谷歌臉書之類的公司遭到的反撲將會擴大，並讓中國進一步搶得先機
西方在人工智能競賽要跟上中國，需要形式較友善與監管較多的資本主義
末日
未來是現在所創造，我們可以做和必須做的事很多
法律需要改革，資料應由用戶所有，用戶可將資料輸出到別的社群網絡
企業需要改革，巨頭需要分拆，購入合併需要禁止，企業應將更多財富與員工和顧客共享，稅務也需改革讓企業自行負擔社會費用
政治需要改革，微鎖定應列為非法，全面禁用社群媒體爭取選民，平台應對本身的虛假內容負責
經濟需要改革，公司須先重新訓練資遣的員工才能僱用新人、定期為員工提供基本教育和技能培養，權力平衡轉向對勞方有利
27/10/2020 閱畢於星光行誠品
Walsh concludes that surviving the AI era requires sweeping reforms across law, politics, and economics. But if our current institutions are already structurally unfit to process truth, these reforms will only treat the symptoms.
My philosophy proposes the ultimate prerequisite: before we can align artificial intelligence, we must first upgrade the source code of human consensus.
感謝看到最後，額外送上此圖。
如需中文版圖表，不妨來函告知，我會為你特別製作。
