「阿基里斯之踵」——AI威脅全景分析，三大弱點引發熱議

FX168財經報社(北美)訊 AI技術自發明以來，因其獨特的技術使人們得到了便利，並得到了廣泛的應用，但是，任何技術都有其弱點，就如同在希臘神話中，有一個名叫阿基里斯（Achilles）的英雄，他的腳腕被認爲是他的唯一弱點。這個腳腕被稱爲「阿基里斯腱」（Achilles tendon），也被稱爲「阿基里斯之踵」。根據傳說，阿基里斯在特洛伊戰爭中被一箭射中他的阿基里斯腱，最終導致了他的死亡。

路透社報道，美國政府初步計劃在最先進的AI模型周圍設置防護措施。美國政府和私營部門的研究人員擔心，如果有人惡意使用這些模型挖掘大量的文本和圖像以總結信息和生成內容，可能會發動具有攻擊性的網絡攻擊，甚至製造強大的生物武器。#AI熱潮#

以下是AI可能帶來的一些威脅，

深度僞造和虛假信息

深度僞造是由AI算法創建的逼真但虛構的視頻，這些算法是通過大量在線視頻訓練的，它們在美國政治極化的社交媒體上出現，模糊了事實和虛構。

雖然這種合成媒體已經存在了幾年，但過去一年裏，由Midjourney等許多新的「生成AI」工具推動了它，使得創造逼真的深度僞造變得廉價且容易。

研究人員在3月份的一份報告中表示，由OpenAI和Microsoft等公司提供的由人工智能驅動的圖像創建工具，可以用於生成可能會促成選舉或與選舉有關的虛假信息的照片，儘管每家公司都有反對創造誤導性內容的政策。

一些虛假信息活動簡單地利用AI模仿真實新聞文章來傳播虛假信息。

儘管主要社交媒體平臺如Facebook、Twitter和YouTube已經努力禁止和刪除深度僞造視頻，但它們在監管此類內容方面的效果有所不同。

國家安全顧問傑克·沙利文在華盛頓舉行的一次人工智能活動上表示，這個問題沒有簡單的解決方案，因爲它結合了AI的能力與「國家、非國家行爲者的意圖，以大規模使用虛假信息，推動宣傳，塑造世界輿論。」

「現在進攻方面遠遠勝過了防守方，」他說。

生物武器

美國情報界、智庫和學者越來越擔心外國惡意行爲者獲取先進AI能力所帶來的風險。Gryphon Scientific和Rand Corporation的研究人員指出，先進的AI模型可以提供信息，有助於製造生物武器。

Gryphon研究了大型語言模型（LLM）——從大量文本中提取信息以對查詢生成響應的計算機程序——如何被敵對行爲者用於在生命科學領域造成傷害，並發現它們「可以提供信息，有助於惡意行爲者製造生物武器，因爲它們在該路徑的每一步中都提供了有用、準確和詳細的信息。」

網絡武器

美國國土安全局在其2024年的國土威脅評估中表示，網絡行爲者可能會使用AI「開發新工具」，以「實現更大規模、更快速、更高效、更難以發現的網絡攻擊」，包括對管道和鐵路等關鍵基礎設施的攻擊。

美國國土安全局表示，美國的對手正在開發可能破壞美國網絡防禦的AI技術，包括支持惡意軟件攻擊的生成AI程序。

微軟在2月的一份報告中表示，它跟蹤了一些與軍方情報機構有關的黑客組織，看到他們試圖通過大型語言模型來完善他們的黑客攻擊活動。