99热这里只有成人精品国产_99精品国产一区二区三区不卡_亚洲欧美在线免费观看_国产人妖tscd合集

(資料圖片僅供參考)

北京日報客戶端 | 記者 孫奇茹

熱到發燙的ChatGPT近期不斷占據媒體和社交網絡的頭條。在給眾多行業帶來巨大想象空間的同時，其帶來的安全與技術倫理問題也備受關注。奇安信人工智能研究院負責人透露，公司正在基于ChatGPT相關技術和自身積累的海量安全知識和數據，訓練奇安信專有的類ChatGPT安全大模型。

如同其他人工智能模型一樣，ChatGPT是把雙刃劍，既可以是提升效率的工具，解答人們的各種問題、創造出大學水平的論文，甚至編寫代碼，但同時也可能繞過安全機制，被用于實施有害的活動。“比如，對網絡安全行業來說，既可以用來編寫網絡釣魚、生成惡意軟件、開展社工攻擊，也可以成為網絡防御者的有力工具。”虎符智庫研究員李建平說。

據了解，網絡犯罪分子使用 ChatGPT 造成的“最緊迫和常見的威脅”主要包括網絡釣魚、社會工程和惡意軟件開發。以社會工程為例，研究人員發現，ChatGPT 等工具使犯罪分子能夠逼真地模擬各種社會環境，從而使各種針對性的通信攻擊更加有效，這類語言模型提供支持的工具，使攻擊者更易誘騙受害者提供敏感信息或下載惡意軟件，加速從網絡釣魚到傳播仇恨言論的各種攻擊。

ChatGPT等人工智能工具會以比人類罪犯更快的速度制造出新的、日益智能的威脅，傳播威脅的速度也會將超過網絡安全人員的反應速度。如何應對這一新挑戰？網絡安全業界人士認為，跟上這一變化的唯一方法是——通過使用人工智能來應對人工智能。

李建平分析，一方面，網絡安全行業的研究人員、從業者、學術和企業可以利用ChatGPT的力量進行創新和協作，包括漏洞發現、事件響應和釣魚檢測。與此同時，隨著ChatGPT等類似工具的發展，未來開發新的網絡安全工具更加重要。安全企業應更積極地開發和部署基于行為（而非規則）的AI安全工具，來檢測人工智能生成的攻擊。

奇安信相關負責人稱，ChatGPT是使用了互聯網數據及部分由標注人員人工編寫的對話數據，利用人類反饋強化學習（RLHF）技術及自有的GPT3.5大模型進行訓練而成的。相關的強化學習、大語言模型等技術，奇安信團隊已經有長時間實踐并取得了一些成果，公司已經開展了ChatGPT在網絡安全領域應用的研究和探索，目前正在訓練的類ChatGPT安全大模型未來將廣泛應用于安全產品開發、威脅檢測、漏洞挖掘、安全運營及自動化、攻防對抗、反病毒、威脅情報分析和運營、涉網犯罪分析等領域。

標簽： 網絡安全 人工智能 惡意軟件