Маргарет Этвуд о проблемах ИИ: «мусор на входе — мусор на выходе»
Фото: The Verge
Краткий ответ
Маргарет Этвуд раскритиковала искусственный интеллект за ненадёжность из-за принципа «мусор на входе — мусор на выходе».
Известная писательница Маргарет Этвуд, чьи произведения «Рассказ служанки» и «Слепой убийца» стали классикой современной литературы, выступила с критикой искусственного интеллекта на фестивале Babell в Порту. По её словам, технология страдает от классической проблемы: качество выходных данных напрямую зависит от качества исходной информации.
Этвуд поделилась опытом взаимодействия с чат-ботом Anthropic Claude, который она использовала для поиска информации о британском детективном сериале «Отец Браун». Вместо точного ответа ИИ предоставил неверные данные, так как анализировал обзоры, где не раскрывались ключевые детали сюжета. Писательница подчеркнула, что ИИ не способен осознавать свои ошибки, так как не обладает человеческим мышлением.
Кроме того, Этвуд назвала пользователей ИИ «оппортунистами», которые ищут лёгкие пути решения задач, не проверяя результаты работы алгоритмов. Она отметила, что даже в бизнес-среде необходимо тщательно верифицировать данные, полученные от ИИ, так как технология склонна к ошибкам из-за ограниченности обучающих выборок.
Частые вопросы
- Почему Маргарет Этвуд критикует ИИ?
- Этвуд считает, что искусственный интеллект ненадёжен из-за некачественных данных, на которых он обучается. Она привела пример, когда чат-бот предоставил ошибочную информацию, не осознавая этого.
- Какой пример ошибки ИИ привела писательница?
- Чат-бот Anthropic Claude дал неверный ответ о детективном сериале «Отец Браун», так как анализировал обзоры, где не раскрывались ключевые детали сюжета.
- Почему Этвуд называет пользователей ИИ «оппортунистами»?
- Она считает, что люди используют ИИ для упрощения работы, но не проверяют результаты, что может приводить к ошибкам и недостоверной информации.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml