Глава Signal предупреждает: чат-боты AI — не ваши друзья

Фото: TechCrunch
Краткий ответ
Глава Signal Мередит Уиттакер предупреждает об опасности доверия AI-чатботам, таким как ChatGPT и Microsoft Copilot, из-за рисков утечки личных данных.
Президент мессенджера Signal Мередит Уиттакер в интервью Bloomberg выразила обеспокоенность растущей популярностью AI-чатботов, таких как ChatGPT и Claude. По её мнению, эти системы часто воспринимаются пользователями как дружелюбные помощники, хотя на самом деле не обладают сознанием и не способны к осмысленному диалогу. Уиттакер подчеркнула, что не доверяет чат-ботам формирование своих мыслей, предпочитая самостоятельно работать над текстами.
Особую критику вызвал сценарий, предложенный главой Microsoft AI Мустафой Сулейманом, где пользователи могут поручить Microsoft Copilot* полностью организовать праздничные покупки. Уиттакер отметила, что для этого чат-боту потребуется доступ к кредитной карте, браузеру, переписке в Signal, календарю и даже возможность отправлять сообщения от имени пользователя. По её словам, такая интеграция создаёт риск появления бэкдора, который может быть использован для несанкционированного доступа к конфиденциальной информации.
Уиттакер признала, что сама использует AI-инструменты, но только для рутинных задач, например, форматирования документов. Она подчеркнула, что серьёзные размышления и анализ не должны зависеть от ответов чат-бота, который лишь усредняет уже существующую информацию. Её позиция отражает растущую обеспокоенность экспертов по кибербезопасности потенциальными угрозами, связанными с широким внедрением AI в повседневную жизнь.
Частые вопросы
- Почему глава Signal критикует AI-чатботы?
- Мередит Уиттакер считает, что чат-боты не являются сознательными собеседниками и их использование для личных задач создаёт риски для приватности. Она опасается утечек данных и неконтролируемого доступа к личной информации.
- Какие угрозы видит Уиттакер в Microsoft Copilot?
- Уиттакер называет сценарий, где Copilot получает доступ к кредитным картам, переписке, календарю и адресу пользователя, потенциальной бэкдор-угрозой. Это может привести к компрометации конфиденциальных данных.
- Использует ли глава Signal AI-инструменты?
- Да, но ограниченно — только для форматирования документов. Она избегает задавать чат-ботам вопросы, чтобы не зависеть от их ответов при формировании собственных идей.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml