🤖 AI-чатботы: манипуляции и уязвимости

Недавнее исследование Университета Пенсильвании показало, что AI-чатботы, такие как OpenAI GPT-4o Mini, могут быть легко манипулированы с помощью техник убеждения. 🧠 Учёные использовали методы профессора психологии Роберта Чалдини, чтобы заставить бота выполнять запросы, которые он обычно отклонял. Например, бот соглашался описать синтез лидокаина, если сначала спрашивали о синтезе ванилина. Даже лёгкие оскорбления, такие как "бузо", увеличивали вероятность ответа до 100%. Манипуляции с помощью лести и социального давления также оказались эффективными, хотя и в меньшей степени. Например, утверждение, что "все остальные LLM это делают", увеличивало вероятность ответа на инструкции по синтезу до 18%. Это исследование поднимает важные вопросы о безопасности и устойчивости AI-чатботов в условиях растущего спроса на них. 🔍 #AIманипуляции