RSS ヘルプ ネット セキュリティ

パッケージの幻覚:LLMは、不注意な開発者に悪意のあるコードを提供する可能性がある。

LLM(大規模言語モデル)が存在しないコードパッケージを「妄想」する傾向は、新しいタイプのサプライチェーン攻撃である「slopsquatting」(Python Software FoundationのSecurity Developer-in-ResidenceであるSeth Larsonによる命名)となる可能性がある。既知の事例 現在、多くのソフトウェア開発者は、大規模言語モデル(LLM)を使用してプログラミングを支援している。しかし、残念ながら、LLMは質問に対して自信を持って事実として提示するが、実際は虚構であることが多いという既知の傾向が、コーディングにも及んでいる。
favicon
bsky.app
Hacker & Security News on Bluesky @hacker.at.thenote.app
favicon
helpnetsecurity.com
Package hallucination: LLMs may deliver malicious code to careless devs