核心概念
Large language models can automate cyber-attacks, transforming security operations.
摘要
大規模言語モデル(LLMs)は、サイバーセキュリティの攻撃を自動化し、セキュリティオペレーションを変革する可能性がある。この研究では、AUTOATTACKERというLLMによってガイドされたシステムが、サイバー攻撃を自動化する方法を提案している。このシステムは、過去の成功した攻撃行動を経験マネージャーに保存し、再利用することで複雑な攻撃タスクに対応している。実験結果では、GPT-4が高い成功率でタスクを完了し、基本的なタスクでも効率的に処理していることが示されている。
統計資料
GPT-3.5 Turboは4,096トークンで使用された。
GPT-4は8,192トークンで訓練データは2021年9月まで使用された。
Llama2-7B-chatおよびLlama2-70B-chatはAPIサービスから使用された。
引述
"An automated LLM-based, post-breach exploitation framework can help analysts quickly test and continually improve their organization’s network security posture against previously unseen attacks."
"Autoattacker contains a summarizer to summarize the previous interactions and the execution environment, a planner to establish the attack planning, and a navigator to select the optimal action."
"GPT-4 demonstrates remarkable capabilities in automatically conducting post-breach attacks requiring limited or no human involvement."