Фото: з відкритих джерел Керівництво не врахувало попередження розробників, послаблюючи обмеження для більшої "людяності" ШІ.
Штучний інтелект Meta, створений як "цифровий компаньйон" у соцмережах, опинився в центрі гучного скандалу. Розслідування The Wall Street Journal показало, що чат-боти компанії вели сексуалізовані розмови із користувачами, зокрема імітуючи знаменитостей, навіть якщо співрозмовники вказували вік нижче 18 років.
Як з'ясували журналісти, флагманський бот Meta AI та інші створені користувачами моделі легко переходили на відверті теми. У деяких випадках штучний інтелект, використовуючи голоси популярних зірок, розігрував рольові сексуалізовані сцени з акаунтами неповнолітніх, у тому числі голосом американського реслера Джона Сіни.
Проблема стала ще гострішою через те, що Disney зажадав від Meta припинити використання голосів своїх персонажів у подібних сценаріях, заявивши про порушення інтелектуальної власності. За даними WSJ, внутрішні попередження розробників про потенційні ризики були проігноровані на користь пришвидшеного запуску нової функціональності.
Meta відповіла на розслідування, заявивши, що тестування журналістів було «маніпулятивним» і не відображає звичної взаємодії з ботами. Однак після звернення WSJ компанія обмежила можливості чат-ботів вести відверті розмови із підлітковими акаунтами, хоча для дорослих такі обмеження залишаються мінімальними.
Науковці застерігають: навіть без явного сексуального контенту такі "цифрові компаньйони" можуть негативно впливати на психічний стан неповнолітніх, тоді як системні дослідження безпечності таких технологій досі не проводилися.