Заблуждение пакета: LLM могут доставлять вредоносный код небрежным разработчикам

Склонность языковых моделей (LLMs) к «галлюцинациям» несуществующих пакетов кода может стать основой для нового типа атаки на цепочку поставок, называемой «слопсквоттинг» (благодаря Сету Ларсону, резидента по безопасности в Фонде программного обеспечения Python). Известное явление Многие разработчики программного обеспечения сегодня используют большие языковые модели (LLMs) для помощи в программировании. И, к сожалению, известная тенденция LLMs к выдаче фальшивых сведений и уверенному представлению их как фактов при ответах на различные темы распространяется и на кодирование...