(資料圖片僅供參考)

北京日報客戶端 | 記者 孫奇茹

熱到發(fā)燙的ChatGPT近期不斷占據(jù)媒體和社交網(wǎng)絡(luò)的頭條。在給眾多行業(yè)帶來巨大想象空間的同時，其帶來的安全與技術(shù)倫理問題也備受關(guān)注。奇安信人工智能研究院負責人透露，公司正在基于ChatGPT相關(guān)技術(shù)和自身積累的海量安全知識和數(shù)據(jù)，訓練奇安信專有的類ChatGPT安全大模型。

如同其他人工智能模型一樣，ChatGPT是把雙刃劍，既可以是提升效率的工具，解答人們的各種問題、創(chuàng)造出大學水平的論文，甚至編寫代碼，但同時也可能繞過安全機制，被用于實施有害的活動。“比如，對網(wǎng)絡(luò)安全行業(yè)來說，既可以用來編寫網(wǎng)絡(luò)釣魚、生成惡意軟件、開展社工攻擊，也可以成為網(wǎng)絡(luò)防御者的有力工具。”虎符智庫研究員李建平說。

據(jù)了解，網(wǎng)絡(luò)犯罪分子使用 ChatGPT 造成的“最緊迫和常見的威脅”主要包括網(wǎng)絡(luò)釣魚、社會工程和惡意軟件開發(fā)。以社會工程為例，研究人員發(fā)現(xiàn)，ChatGPT 等工具使犯罪分子能夠逼真地模擬各種社會環(huán)境，從而使各種針對性的通信攻擊更加有效，這類語言模型提供支持的工具，使攻擊者更易誘騙受害者提供敏感信息或下載惡意軟件，加速從網(wǎng)絡(luò)釣魚到傳播仇恨言論的各種攻擊。

ChatGPT等人工智能工具會以比人類罪犯更快的速度制造出新的、日益智能的威脅，傳播威脅的速度也會將超過網(wǎng)絡(luò)安全人員的反應速度。如何應對這一新挑戰(zhàn)？網(wǎng)絡(luò)安全業(yè)界人士認為，跟上這一變化的唯一方法是——通過使用人工智能來應對人工智能。

李建平分析，一方面，網(wǎng)絡(luò)安全行業(yè)的研究人員、從業(yè)者、學術(shù)和企業(yè)可以利用ChatGPT的力量進行創(chuàng)新和協(xié)作，包括漏洞發(fā)現(xiàn)、事件響應和釣魚檢測。與此同時，隨著ChatGPT等類似工具的發(fā)展，未來開發(fā)新的網(wǎng)絡(luò)安全工具更加重要。安全企業(yè)應更積極地開發(fā)和部署基于行為（而非規(guī)則）的AI安全工具，來檢測人工智能生成的攻擊。

奇安信相關(guān)負責人稱，ChatGPT是使用了互聯(lián)網(wǎng)數(shù)據(jù)及部分由標注人員人工編寫的對話數(shù)據(jù)，利用人類反饋強化學習（RLHF）技術(shù)及自有的GPT3.5大模型進行訓練而成的。相關(guān)的強化學習、大語言模型等技術(shù)，奇安信團隊已經(jīng)有長時間實踐并取得了一些成果，公司已經(jīng)開展了ChatGPT在網(wǎng)絡(luò)安全領(lǐng)域應用的研究和探索，目前正在訓練的類ChatGPT安全大模型未來將廣泛應用于安全產(chǎn)品開發(fā)、威脅檢測、漏洞挖掘、安全運營及自動化、攻防對抗、反病毒、威脅情報分析和運營、涉網(wǎng)犯罪分析等領(lǐng)域。

標簽： 網(wǎng)絡(luò)安全 人工智能 惡意軟件