後真相時代最大的安全威脅

新冠肺炎病毒大流行明確了一件事：協調整個社會的行為是非常困難的，即使是在生死攸關的問題上。

考慮一下公眾對疫苗的反應。對世界來說，要戰勝冠狀病毒，需要大多數人同意接種冠狀病毒疫苗，很少有民主政府會強制民眾接種。但在全球範圍內，人們仍對疫苗問題猶豫不決。如果猶豫的人群太多，我們最有希望擺脫大流行的一個途徑就會受到損害。這些人的拒絶會影響到每一個人，甚至是接種者。

這一直是大流行的主要話題：在不同時期，公共衛生官員和政客試圖說服人們做一些對自己和社區都有利的事情，比如保持社交距離、戴口罩。很多人這麼做了，但有些人對建議比較牴觸。關於疫苗和口罩的虛假信息、無效治療以及新冠病毒起源的毫無根據的謠言，使協調公共行為變得極其困難。

這種對重大世界事件的反應反映出一種令人擔憂的趨勢，這預示著我們在21世紀可能面臨其他危機，包括未來的大流行疾病和氣候變化。在這個後真相時代，要確保每個人都消息靈通變得越來越困難。換句話說，即使我們知道如何拯救世界，一個退化的、不值得信任的信息系統也能阻止挽救的進程。

英國艾倫圖靈研究所（Alan Turing Institute）最近發表了一份報告，我和我的同事們認為，這種變化不亞於對全球安全本身的威脅。術語「國家安全」或「網絡安全」較為人所知。但是我們認為，應該更多地關注「認知安全」。因為如果沒有它，社會將失去應對未來最嚴重風險的能力。

如果說家庭安全保證我們財產的安全，金融安全保證錢財的安全，國家安全保證國家的安全，那麼認知安全就是保證知識體系的安全。

認知安全中的認知一詞（Episteme）是希臘哲學術語，意思是「知道」。因此認知安全涉及到，確保我們真正了解我們所了解的，能夠識別未經支持或不真實的主張，以及我們的信息系統對識別假新聞等「認知威脅」是穩健的。

在報告中，我們探索了有助於在民主社會維護認知安全的潛在對策和研究領域。但在這篇文章中，讓我們來看看加劇這一問題，並使社會越來越難以應對緊迫挑戰和危機的四種主要趨勢：

1. 注意力稀缺

早在13世紀遠在歐洲發明印刷機之前，學者們就抱怨信息過載。1255年，居住在法國北部城市波維（Beauvais）的多明尼加·文森特（Dominican Vincent）寫道：「書籍眾多，時間緊缺，記憶力差」。

不過，互聯網使大量難以核實的信息比以往任何時候都更容易獲得。很難篩選出哪些小道消息是真的，哪些是假的。我們有限的注意力被分散過度了。

豐富的信息以及遭到限制的注意力創造出激烈的「注意力經濟」，在這種經濟當中，政府、記者、利益集團和其他人必須爭奪眼球。不幸的是，雖然有效的策略吸引了人們的情緒和信念，但這些來源並不代表是真相。

2. 過濾氣泡和有限理性

注意力經濟有著特別令人擔憂的後果，即是形成過濾氣泡。在這種氣泡中，人們主要暴露在自己預先持有的信念之下，相反的觀點則被過濾掉。

當面對信息過載，人們自然更願意關注社區中志趣相投的人，而不是不熟悉的局外人。使用社交媒體平台比以往任何時候都更容易形成並加入一個由共同的信仰和價值觀統一起來的社區。

過濾氣泡的認知結果被稱為「有限理性」。如果獲取信息是良好推理和決策的基礎，那麼通過根深蒂固的過濾氣泡來限制一個人對潛在相關信息的獲取，反過來又會限制一個人的良好推理能力。

3.對手和輕率粗心的人

發佈和獲取信息比以往任何時候都容易。但缺點是，同樣的技術也使人們更容易有意、無意地傳播虛假或誤導性信息。

行為者（個人、組織或國家）故意操縱信息，惡意誤導或欺騙信息接受者，他們的錯誤信念被稱為「對手」。對手發動「對抗性攻擊」，煽動人們根據誤導性或虛假信息採取行動。例如，一個政治競選活動可能會使用深度造假的視頻技術，偽造其他政治候選人的犯罪視頻，以操縱選舉結果，使其對自己有利。

另一方面，通過善意或偶然的方式傳播錯誤或缺乏證據的信念的人被稱為「犯錯誤者」。例如，一位疫苗研究人員擔心副作用，不信任醫療權威，可能會在一次採訪中發表善意但略有些危言聳聽的評論，這些評論可能會被轉載並在社交媒體上傳播，引發一場廣泛的反疫苗運動。

3.侵蝕的信任

人類進化出了決定何時信任他人的技術。比如，如果一個人被多人所相信，那麼我們更有可能相信這個人，我們甚至更願意相信自己社區的成員——這表明他們與我們擁有相似的價值觀和利益。我們也會用肢體語言、聲音語調和說話方式來判斷誠實與否。這些策略可能會出錯，但總的來說，它們對人類很有用。

然而現代信息技術可以破壞這些策略。例如，過濾氣泡讓少數人的觀點更加明顯，而且似乎比實際情況更被廣泛相信。雖然公眾更容易看到一些少數人的觀點，但當有害的極端主義敘述被渲染得比實際情況主流得多時，就會出現問題。

一些技術還劫持了我們的潛意識傾向，讓我們在聲音模式和肢體語言中尋找誠實和不誠實的跡象。當有人撒謊時，人工生成的語音或深度造假的視頻不會受到提示的困擾。

這一切意味著什麼？

對於那些願意付出努力的人來說，豐富而均衡的媒體飲食比以往任何時候都容易獲得。但消息靈通往往是大多數人無法輕易承擔的時間和資源的特權。

因此，在應對新冠病毒等複雜挑戰時（這些挑戰需要及時做出決策並協調廣泛的集體行動），重要的是，明智的公共衛生建議和安全疫苗是不夠的。人們還必須相信解決方案和提供解決方案的人。

在報告中，我們探討了如果不採取行動可能產生的一些後果。我們把其中一個最壞的情況稱為「認知咿呀學語」。這意味著，未來普通民眾完全喪失了辨別真實與虛構的能力。雖然信息容易獲得，但人們無法判斷他們看到、讀到或聽到的東西是否可靠。因此，當下一次大流行到來時，社會之間不可能合作。這是想法讓人不寒而栗——但新冠病毒已經表明，我們比以前想象的更接近這種現實。

--

伊麗莎白·西格（Elizabeth Seger）是劍橋大學和利弗休姆未來智能中心（Leverhulme Centre for the Future of Intelligence）的研究員。

請訪問 BBC Future 閲讀 英文原文。