將人工智能工具引入業務工作流程可以讓一些信息變得可用，這些信息對黑客來說可能更有價值，而且也更難防范。

　　似乎越來越有可能的是，人工智能正在改變各行各業的It運營，從最小的初創企業到大型傳統企業。在某些方面，人工智能的出現是一股均衡力量，由于人工智能仍處于起步階段，所有企業在探索如何利用這些新工具時都同樣處于早期階段。在制定新的安全措施以配合在工作場所內外使用人工智能時，大多數企業也處于平等地位。

　　與之前的顛覆性技術一樣，探索中的一個主要問題是在創新和信息安全之間取得適當的平衡。盡管人工智能具有增強業務運營的潛力，但它也同樣有可能使企業面臨危險。對首席技術官來說，非常謹慎地對待人工智能的采用是一個好主意，因為即使它徹底改變了IT領導者開展業務的方式，它也會同樣徹底改變黑客和其他不良行為者的攻擊方式。

　　黑客長期以來一直將數據作為他們的“戰利品”，無論是可以在商業競爭中利用的專有企業數據，還是可以幫助獲取個人個人財富等等的個人數據，人工智能不會阻止數據的盜竊和利用。

　　人工智能收集數據的黑客攻擊

　　由于人工智能既可以從數據中學習，也可以用來處理和解析大量數據，因此它的崛起可能會導致更多不同類型的數據暴露，成為黑客攻擊的目標。也就是說，將人工智能工具引入業務工作流程有可能導致人們提供一些對黑客來說更有價值的信息，而且也更難防范黑客攻擊。

　　當任何人，無論是企業決策者還是個人，選擇使用人工智能時，他們都需要意識到向人工智能程序提供數據所涉及的風險，并確保他們對決策充滿信心。在企業環境中，我傾向于認為單個團隊成員應該避免單獨做出這個決定。一個知情的團隊，不僅包括首席技術官，還包括營銷和法律等其他關鍵群體的代表，應該幫助指導有關人工智能工具的所有決策。

　　人工智能促進黑客攻擊

　　那些旨在制定負責任的人工智能使用政策、符合企業最大利益的人，可以從了解他們所面臨的不斷變化的威脅中受益。雖然人工智能的進步可能不會改變黑客的目標，信息可能仍然是一種有價值的商品，但它幾乎肯定會改變他們的目標方式。

　　畢竟，人工智能是一種強大的工具，可以大規模地自動化各種分析過程，其中包括邪惡的分析過程。因此，雖然許多首席技術官，自然渴望充分利用人工智能的許多潛在用例，但我們所有人都應該記住，黑客也是如此。

　　許多開發人員在構建人工智能工具時，熱衷于追求的目標之一是讓這些工具盡可能地顯得人性化。像ChatGPT這樣的大型語言模型(LLM)不僅可以模擬語言的流暢性，還可以模擬語氣，甚至可以模擬引人入勝的對話。

　　在最成功的情況下，這可能意味著人工智能將能夠通過圖靈測試，這是計算機科學家艾倫·圖靈提出的一項測試，旨在確定機器表現出人類特征的能力;通過圖靈測試意味著機器可以欺騙不知情的人，讓他們認為他們正在與另一個人交談。

　　這可能對網絡釣魚黑客的規模和有效性產生重大影響。網絡釣魚需要冒充某個機構或個人來欺騙受害者交出金錢、敏感信息或機密訪問權限(通過密碼等)�，F代網絡釣魚詐騙，例如近年來愈演愈烈的國稅局騙局已經比21世紀初的“尼日利亞王子”騙局復雜了好幾光年，但要想讓人信服，它們可能會很麻煩，而且需要耗費大量時間。

　　人工智能可能會提供黑客正在尋找的解決方案，而首席技術官們應該對此感到恐懼。一種可以快速解析所需信息的工具的承諾，可以對代表某個機構的人或任何其他人進行高級模仿，這為許多同時對話打開了大門，從而說服受害者提供信息。這可能意味著，相對小規模的黑客行動可能比以往任何時候都有可能犯下更多、更高級的欺詐行為。

　　但事情并沒有就此結束。如果企業的團隊成員正在與LLMAI進行交互，即使小心地將敏感數據保密，他們仍然可能向其提供可能給您公司帶來風險的信息而沒有意識到這一點。在與任何人交談時，即使是表面上平淡無奇的話題，人工智能也會了解這個人的聊天方式、感興趣的話題類型等等。

　　事實上，即使團隊從未與人工智能互動，我們所有人仍然有很多相對不受保護的數據，從瀏覽歷史記錄到電子郵件訂閱，再到可用于操縱的其他信息，在互聯網上流動并可供購買。這可能適用于所有團隊成員，包括公司的CEO，甚至是CTO。不難想象，黑客要么購買個人數據來訓練人工智能，要么利用人工智能通過與人的直接互動了解到的信息來冒充他們。

　　這在個人層面上已經足夠可怕了，想象一下，當朋友和家人認為他們正在與我們聊天時，這樣的機器能夠從他們那里收集什么信息。然而，在專業層面上，它為員工創造了代表黑客執行任務的機會，這些任務可能會危及企業，以響應看似來自同事的指令。利用這些信息可以創建的攻擊，將比我們今天看到的典型網絡釣魚更有針對性，因此更復雜和先進。

　　這種進步也延續到了更基本和更細粒度的黑客元素上。到目前為止，如果黑客想要收集有關團隊成員或整個企業的信息，他們必須準備好投入一些時間。借助人工智能，大部分繁瑣的偵察工作都可以在算法的幫助下得到簡化，這些算法幾乎可以立即消化大量信息。此外，人工智能能夠在收集數據時進行分析，這對黑客來說意味著識別漏洞和攻擊點。所有這些都使黑客能夠迅速發動更多、更大規模的攻擊。

　　與此相關的是，如果人工智能能夠在眨眼間收集信息并識別和分析漏洞，它也將能夠比我們以前見過的更快地開發復雜的對策。通常，如果黑客想要在計算機、服務器或網絡上安裝惡意軟件，他們必須首先進行偵察以找到漏洞，確定哪種惡意軟件最能利用這些漏洞，然后編寫軟件。人工智能強大的分析和外推能力意味著這三步過程幾乎可以立即發生。這可能意味著高度定制且幾乎難以察覺的惡意軟件，可以幾乎實時地收集信息并逃避反病毒工作。

　　這就是為什么我說首席技術官和首席信息官需要先于黑客思考。所有IT領導者都需要了解是什么讓企業容易受到這些攻擊，并在新一波人工智能黑客攻擊到來之前加強防御。

　　總結

　　關于人工智能進化的討論已經無處不在，以前的技術往往在開發和采用方面走得更遠，然后才達到人工智能已經享受的外行熟悉程度。目前對于如何應對人工智能大規模黑客攻擊還沒有足夠的了解，如何防止這些攻擊就更不清楚了。雖然新技術也非常令人興奮，并將為各行業的首席信息官和首席技術官打開無數的大門，但我們應該意識到，黑客和我們一樣興奮。