人工智能的未來尚無定論。一些領導者積極看待人工智能技術的新興用途，并為人工智能如何徹底改變網絡安全而歡呼雀躍。而另一些人則采取謹慎、規避風險的態度，因害怕未知而退避三舍。但有一點是肯定的:人工智能對數據安全的影響將在未來數年內改變企業和技術領導者制定網絡安全戰略的方式。在人工智能創新日新月異的發展下，安全領導者應牢記以下三個關鍵考慮因素：

一.人工智能爆炸才剛剛開始

雖然人工智能已經“嶄露頭角”多年，我們仍處于全面了解這項技術的早期階段。隨著關于人工智能的新知識不斷涌現，領導者必須不斷學習人工智能創新知識，以便在快速變化的時代有效指導決策。領導者還應鼓勵自己的團隊，尤其是安全和數據保護領域的人員，盡可能多地了解人工智能，以熟悉黑客將如何利用人工智能進行犯罪行為。在不斷演變的以人工智能為驅動的威脅環境中，需要采取全員參與的方法來應對即將到來的威脅。

二.輕松獲取人工智工具能讓不法分子有機可乘  

隨著人工智能的發展，很多企業面臨的一個關鍵挑戰是有效制定和執行人工智能道德政策和負責任的使用準則。例如，員工必須了解何時允許使用 ChatGPT 等生成式人工智能聊天機器人，以及使用該技術所需的數據共享可能會導致的例如機密信息泄露等有害結果。

不幸的是，黑客沒有義務遵守同樣的道德準則。因此，輕松獲取人工智能工具有助于黑客在攻擊中占據上風。例如，壞人現在可以使用生成式人工智能來創建更高效的勒索軟件，或利用 WormGPT 等不受約束的語言模型來實現更復雜的網絡釣魚攻擊。

三.人工智能讓攻擊更不容易被察覺

如果沒有人工智能，勒索軟件攻擊需要攻擊者具備深入的知識，才能手動枚舉網絡、找到更多目標并進行傳播。通常情況下，黑客是專業人士，但可能會因為人為錯誤而被拖慢速度。人工生成的威脅對 IT 專業人員來說更容易識別，預編程的自治解決方案可以識別警告信號，從而預防或阻止即將到來的攻擊。

然而，人工智能運行的攻擊更容易躲避檢測，使攻擊以更快的速度和更高的精度通過網絡傳播。聊天機器人還可以創建更接近人類的網絡釣魚計劃，從而誘使員工無意中向黑客提供網絡訪問權限。

鑒于上述現實，Veritas建議，首席信息安全官應采取積極主動的方法，平衡人工智能技術應用與數據安全隱私。以下是幾種有助于組織實現微秒平衡的關鍵策略:

1.評估數據隱私和保護并實施指南:CISO應仔細評估用于訓練模型的數據，并確保遵守相關行業法規和相關公司政策。對敏感信息進行匿名化或假名化并應用嚴格的訪問控制來保護用戶數據免遭未經授權的訪問或濫用至關重要。與法律和人力資源團隊合作制定預測文本技術使用的合規指南也很重要。

2.保護模型訓練和部署:保護用于訓練和部署預測文本模型的基礎設施是關鍵舉措。實施強大的安全控制，包括加密、安全協議和訪問管理，以保護底層系統并防止未經授權的修改或篡改模型。

3.加強用戶意識并獲得同意:教育用戶了解預測文本技術的影響和功能。清楚地傳達數據收集和使用的目的以及所涉及的潛在風險，使用戶能夠就選擇加入或退出預測文本功能做出明智的決定。

4.與供應商和研究人員合作:與技術供應商和研究人員合作，隨時了解與預測文本技術相關的最新進展、安全補丁和最佳實踐。積極協作有助于更有效地應對新出現的安全和隱私挑戰。

5.發展事件響應和持續監控能力:制定針對預測文本技術的事件響應計劃。監控系統日志、用戶反饋和異常檢測機制，及時識別任何潛在的安全事件或隱私泄露。建立流程以及時響應此類事件，緩解潛在影響，確保將對用戶和數據的影響降至最低。

毫無疑問，人工智能作為科技領域的一大趨勢正在重塑網絡威脅格局。未來企業必須高度重視AI帶來的威脅，并采取相應的措施來應對。隨著人工智能技術的不斷發展和應用，領導者需要時刻關注新技術的發展，不斷學習新的知識和技能，以應對不斷演變的威脅。同時，強化數據隱私保護和管理措施也是企業的當務之急，確保數據安全不被侵犯。只有全面、系統地應對這些挑戰，企業才能穩固數據安全，保障穩定的發展和運營。