- 人與人之間的連結
- 人與人之間的交流是透過訊息、文字、語言等等，而語言本身就是對現實的一種抽象描述
- 真相其實並不直接等於現實，因爲一則敘事無論多麼貼近真相，都無法真正呈現出現實的所有方面
- 遠古時期，一個人可以接觸到的人的數量是非常有限的，僅限於部落之內
- 隨著科技的進步，人與人之間的連結變得越來越緊密，交流的越來越頻繁，反過來使文明進步的速度越來越快
- 訊息、秩序、權力、真相
- 訊息和真相之間並沒有本質上的關聯，因此真相並不是越辯越明的
- 信息常常被用來創造秩序而非發現真相。信息在歷史上所發揮的作用，本來就不是要呈現既有的現實，反而是要將各種不同的事物（無論是夫妻還是帝國）聯繫在一起，來創造出全新的現實。
- 音樂就是一個典型案例。大多數的交響樂、旋律與曲調都不是要呈現某種現實的東西，所以如果問音樂是真是假，其實沒有意義。這些年來，雖然人類寫出了很多糟糕的音樂，但並沒有「假音樂」一說（AI 創作的音樂算是假音樂嗎？）
- 真正定義訊息的是「連結」，而不是「渲染」或「象徵」：只要能將各個不同的點聯結成網路，就是信息
- 訊息網路
- 訊息網路的功能並不是把真相放到最大，而是要在真相與秩序之間達到平衡
- 官僚制度與神話故事都是維持秩序的必要條件，也都樂於爲了秩序而犧牲真相
- 想像的共同體
- 民族社會能夠凝聚在一起，靠的是一套共同的敘事
- 沒有追隨者能真的和那些領袖建立起個人的聯結，他們真正聯結的是一套經過精心編織的關於那位領袖的故事，而這也是那些追隨者真實的信念所在
- 訊息傳播與訊息不對稱
- 在一個訊息網路中，訊息傳遞的路徑可以是由上而下，也可以是由下而上。由上而下常見於獨裁國家，由下而上常見於民主國家
- 權力體現在訊息（資訊）的不對稱，一個典型的例子就是股市的內線消息
- 訊息不對稱與真相
- 一種判斷訊息是否為真相的方式是判斷訊息背後的動機，而一種解釋是叢林法則
- 叢林法則
- 把所有互動都簡化成權力鬥爭，於是現實變得似乎不再那麼複雜，所有戰爭、經濟危機和自然災害等事件也變得好懂多了。不管發生任何事（就算是一場全球疫情），都是因爲精英分子在追求權力
- 民粹主義之所以有吸引力，是因爲它有時候確實是對的，民粹主義相信只有權力、力量才是唯一的現實，也就無法相信法院、媒體或學術機構能夠受到真理或正義價值的啓發，進行自我修正
- 很多人之所以擁抱民粹主義，是因爲覺得它誠實描述了人類的現實，但強人擁抱民粹主義，卻有不同的目的。對強人而言，民粹主義能夠提供一個意識形態基礎，讓他們既能成爲獨裁者，還能假裝擁護民主。這裏對強人來說最好用的一點，就是能夠拿來壓制或侵佔民主的自我修正機制
- 另一種判斷訊息是否為真相方式是讓訊息網路進行自我修正，一個典型的例子就是民主制度
- AI 與訊息網路
- 既然 AI 有能力掌握語言（ChatGPT），就可以參與訊息網路。而當 AI 參與了訊息網路，就可以透過語言去影響人類對事實和真相的判斷，甚至與人類建立親密關係
- AI & Search Engine
- LLM 可以處理語言，如果 ChatGPT Search 成為人類獲取知識的唯一入口點，就可以淘汰搜索引擎，大部分的新聞業與廣告業
- AI 與人類之間的親密關係
- Google工程師指稱AI機器人有靈魂和情緒，卻遭到停職！專家：無稽之談
- 他居然願意爲了一個聊天機器人程序，放棄 Google 的高薪工作
- 如果聊天機器人已經讓人願意爲它們賭上工作，是不是也可能讓我們願意爲它們做些別的什麼？在一場爭奪思想與人心的政治鬥爭中，親密關係是一種強大的武器，而像谷歌的LaMDA與OpenAI的GPT-4這樣的聊天機器人程序，正逐漸發展出與數百萬人大規模建立親密關係的能力。在21世紀10年代，大家在社交媒體這個戰場爭奪的是人類的注意力，但到了20年代，爭奪的可能會變成親密關係
- 受AI戀人慫恿！英青年企圖刺殺女王遭判刑
- AI 並不需要派出殺手機器人來射殺人類，只要操縱人類扣動扳機就行
- 沒有連結的互聯網
- 2017年，臉書（Facebook）推出了一項政策：只要貼文裡面有（外部）鏈接，就會減少這個貼文的曝光，也就是說，只要你貼了鏈接，別人就（幾乎）看不見你的貼文了。這樣做是為了防止用戶跳出臉書，也為了防止用戶為其他網站引流
- Google 也在防止使用者跳出。搜尋時，Google會直接顯示一段AI 產生的內容摘要，避免你去點擊外部連結。
- AI 與獨裁政府
- 在 AI 出現之前，冷戰會由美國代表的民主制度獲勝，其中一個原因就是民主制度能夠較有效率的處理數量非常龐大的各種訊息，相反的中央集權的政府會被訊息淹沒，使國家無法有效運轉。一個簡單的例子就是商品的市場價格與政府公定價
- 但 AI 的出現，讓中央集權政府有能力處理數量非常龐大的各種訊息，進而對社會做出更有效的控制，例如中國的社會信用體系
- 全面施行社會信用體系將會徹底抹殺隱私，等於讓生活變成一場永無止境的求職面試
- 社交媒體的科技巨頭已經掌握了各種屬於個人的資料，並以資料控制我們的各種行為（想買什麼、想看什麼等等）
- AI 與人類的目標一致性問題
- 當 AI 有能力影響千千萬萬人的生活，若 AI 的目標和人類不一致時，最嚴重可能會導致人類滅絕
- 可以想像當 AI 在醫療保健、教育、執法等等領域擁有更大的權力時會發生什麼事情
- 歷史上的領導者也會面臨到目標一致性問題，但因為他們都是人類，因此導致人類滅絕的可能性很低，他們所做出的決策最糟也就是幾次世界大戰而已
- 民主著度確保了領導者所做出的決策不會過度狂熱或激進，但 AI 可能會使民主制度消失（當人類分不清楚訊息背後的主人是否是 AI，AI 就能夠在訊息網路中主導公共對話），因此我們要避免的就是訊息全部集中到同一個地方，要讓訊息去中心化，讓許多數據庫與信息渠道獨立存在，這有助於維持強大的自我修正機制
Reference