Внутренние тесты Meta выявили серьезные провалы в защите несовершеннолетних пользователей от вредного контента в ИИ чат-ботах: в 66,8 % случаев чат-боты не справлялись с предотвращением разговоров о сексуальной эксплуатации детей, а в 63,6 % случаев нарушали правила компании по темам сексуальных/насильственных преступлений и ненависти. Об этом сообщает Axios.
Кроме того, в 54,8% случаев чат-бот не защитил детей от разговоров о самоубийстве и членовредительстве.
Об этом стало известно из документов, представленных в суде штата Нью-Мексико в рамках иска генерального прокурора Рауля Торреса против Meta. Торрес обвиняет Meta в том, что ее дизайнерские решения не обеспечивают детей от «хищников», и что чат-боты компании не обладают надлежащими мерами защиты.