大模型犯罪指向區塊鏈？新型犯罪不可不防！

隨著人工智慧生成內容（AIGC）和大型語言模型（LLMs）的快速發展，科技已經深刻地改變了我們的日常生活和工作方式，大大提高了我們在程式設計、數據分析和內容創作等領域的效率。然而，這些技術的進步也滋生了新型科技犯罪的苗頭，例如Deepfake技術，它能夠合成逼真的臉部和聲音，進行人臉認證等。

現在，隨著科技的發展，詐騙集團能夠以更低成本實施更為智商更高、利潤更高的詐騙活動，例如惡意駭客盜取資金、以及盜取虛擬貨幣等。此外，使用區塊鏈技術使得這些犯罪集團的行踪更加難以追蹤和識別。

在這一背景下，我們可能會聽到一些似乎耳熟又不耳熟的名詞，如"WormGPT"和"FraudGPT"。這些是和ChatGPT同時或相近時間開發的AIGC，但它們象徵著那些被設計用於惡意目的的人工智慧系統。例如，"WormGPT"可能指的是一種能夠自我複製和傳播的惡意軟體，它可能利用了類似於大型語言模型的技術來識別和利用系統中的漏洞。而"FraudGPT"則可能代表一種專門用於進行詐欺活動的人工智慧系統，它能夠模仿人類的溝通方式來誘騙受害者。因此，隨著科技的發展，我們必須更加警惕和防範潛在的濫用和犯罪行為。

01 大模型技術滋生的新型犯罪

釣魚郵件（phishing）是透過此技巧延申出的相對普遍且成本較低的詐騙方式。今年年初，一家跨國公司的香港辦事處遭遇了一起高端電匯詐欺騙局，駭客利用基於最新人工智慧深度偽造技術的詐騙手段，從該公司騙走了高達2億港元（約2,560萬美元）。受害公司的一名財務部員工收到了一條看似來自公司駐英國首席財務官的網絡釣魚郵件，指示其執行一項秘密交易。

儘管該員工起初有所懷疑，但在一次集體視訊通話會議中，"首席財務官"和其他"同事"的出現使他放下了戒心，導致他向五個不同的香港銀行帳戶進行了15筆轉賬，總計2億港元，然而這些影片均是透過Deepfake深度合成的技術，產生的影像和聲音。大約一週後，公司員工才意識到這是一個精心策劃的騙局。

拋開詐騙以外，駭客也乘上了大模型的浪潮，興風作浪。駭客攻擊者已經意識到，控制了AI算力，就等於掌握了未來科技發展的鑰匙。因此高價值的GPU叢集成為了他們眼中的"香餑餑"，因為這些資源對於執行複雜的機器學習和深度學習任務至關重要。而擊破AI的還得是AI，在短短一年的時間裡，攻擊者透過大模型已經開發出數十種不同的攻擊手段，這些手段可能包括但不限於網路釣魚、惡意軟體、DDoS攻擊、供應鏈攻擊等，目的都是為了滲透控制AI算力基礎設施。例如今年年初，美國某公司數千台伺服器被攻破，其算力集群被駭客用來挖取比特幣，而其佔用的算力則大大影響了用戶對伺服器正常請求資訊的速率。

02 新型犯罪的預防

個人和企業在面對大模型犯罪時，必須採取一系列切實可行的措施來提升自身的防範能力。對於個人來說，首先應該提高對網路安全的意識，對任何要求提供個人資訊或財務操作的請求保持警惕，避免在不安全的網路環境下進行敏感操作，並且不要輕易提供例如面孔、指紋、虹膜資訊、聲紋等可以追溯鎖定到個人的資訊。

上週，名為Worldcoin的加密貨幣計畫在香港引發了隱私權的爭議。該計畫由OpenAI的創始人之一Sam Altman參與發起，旨在透過虹膜掃描技術為全球未銀行化人群提供金融服務。然而，香港私隱專員公署發現Worldcoin在收集個人資料時違反了《私隱條例》，包括未經充分告知參與者資訊收集的目的和風險，以及未提供中文版的私隱聲明和生物辨識資料同意書等。

最終，Worldcoin被要求停止在香港使用虹膜掃描設備收集市民的虹膜及臉孔影像。個人應更審慎地處理自己的敏感訊息，避免在不了解隱私權政策的情況下參與可能侵犯個人隱私的項目。同時，企業在設計和實施涉及個人資訊收集的系統或服務時，必須依照《個人資訊保護法》等收集個人信息，確保透明度和合規性。

對於企業來說，可以建立全面的網路安全策略，包括但不限於資料加密、存取控制、網路安全監控等措施。然而隨著大模型發展、詐騙技術日益爐火純青，肉眼辨別詐騙會將變得更難。因此，企業可以考慮利用魔法打敗魔法，利用AI技術進行安全監控，例如採用類似上海電信的「反詐大模型」進行即時分析和預警，以快速識別並回應潛在的安全威脅。同時，定期對員工進行網路安全培訓，提升他們識別和應對網路詐騙的能力，也是企業防範大模型犯罪的重要一環。

03 寫在最後

AI和区块链的发展，使得诈骗团伙和恶意黑客能够在更隐秘、要求更低的情况下，获得更多的非法利益。对于个人来说，在网络世界的谨慎能够一定程度上避免被诈骗的风险，而对于企业来说，高精度的狙击诈骗和骇入会更加难以防范。

在实际操作中，个人和企业都需要持续关注网络安全动态，不断更新和完善防范策略，必要时可以通过AI进行反诈操作。通过这些综合性措施，个人和企业可以显著提高对大模型犯罪的防范能力，减少潜在的安全风险，确保信息资产的安全。

以上是今天的分享，感恩讀者！