Искусственный интеллект – иллюзия интеллекта

Abstract

Если не вникать, LLM создает видимость, что они умнее человека, а это интригует и вызывает желание проверить, так ли они умны. И когда неподготовленные люди кинулись общаться с чат-ботами, им и в самом деле показалось, что они общаются с разумными субъектами. LLM потенциально стали оружием в руках не только мошенника, но и тех которые ими пользуются. Их ошибки выглядят правдоподобными, и потому модель может дать неправильный медицинский совет, придумать несуществующую юридическую норму, сгенерировать ложный анализ, подделать цитату, убедить человека в неверном выводе.