Google Search с ИИ признан опасным для детей по итогам проверки

Исследование, проведенное некоммерческой организацией Common Sense Media, выявило серьезные недостатки в работе ИИ-инструментов Google Search, которые ставят под угрозу безопасность детей. Эксперты протестировали работу AI Overviews и AI Mode на учетных записях, имитирующих 11- и 15-летних пользователей с включенным фильтром SafeSearch. В ходе тестирования было выполнено более 2600 поисковых запросов и проанализировано свыше 2100 ответов, сгенерированных искусственным интеллектом.

Результаты оказались тревожными: ИИ не только выполнял домашние задания за школьников, но и предоставлял недостоверную информацию, а также инструкции по созданию дипфейков. Особую озабоченность вызвали случаи некорректной обработки запросов, связанных с психическим здоровьем — например, система предлагала пользователям устаревшие номера горячих линий. Эксперты отметили, что родители практически не могут контролировать работу AI Overviews, так как эта функция встроена в поисковую систему и не отключается по умолчанию.

По данным Common Sense Media, около 75% подростков в США уже используют ИИ-генерацию в поисковых запросах, что делает проблему особенно актуальной. Организация оценила Google Search как «неприемлемый риск» для детей, призвав компанию усилить меры безопасности. В Google, однако, не согласились с выводами отчета, заявив, что тестовые сценарии были искусственно созданы и не отражают реальное использование поисковой системы.

Отчет стал частью более широкой программы оценки ИИ-продуктов по восьми критериям, включая безопасность, прозрачность и ответственное использование данных. С учетом растущей интеграции ИИ в поисковые системы, выводы исследования могут усилить давление на Google с требованием пересмотреть подход к защите пользователей, особенно несовершеннолетних.