OpenAI предлагает использовать perplexity для установления лимитов развития ИИ

Фото: pollinations.ai
Краткий ответ
OpenAI предложила использовать perplexity — метрику, измеряющую способность модели предсказывать следующий токен — как общий стандарт для измерения прогресса ИИ.
Дискуссия о безопасности и темпах развития искусственного интеллекта набирает обороты. После того как ряд исследователей и руководителей, включая Dario Amodei, начали призывать к замедлению «фронтирного» прогресса, возникла острая необходимость в создании общих стандартов. Цель — предотвратить неконтролируемый рост технологий, которые могут нести катастрофические риски для общества.
В этом контексте главный научный сотрудник OpenAI Jakub Pachocki представил свои соображения. Он утверждает, что для установления «скоростного лимита» в развитии ИИ необходимо сначала договориться о том, как именно измеряется этот прогресс. Pachocki предлагает использовать метрику perplexity в качестве такого общего бенчмарка.
В отличие от традиционных метрик, которые быстро устаревают по мере совершенствования технологий, perplexity сохраняет свою информативность. Эта метрика измеряет, насколько эффективно модель предсказывает следующий токен. Pachocki отмечает, что снижение perplexity у моделей OpenAI, начиная с GPT 3.5, демонстрирует появление трансформационных возможностей в таких областях, как кибербезопасность и математика.
По мнению Pachocki, стандартизация на основе perplexity может стать основой для общего понимания уровня интеллекта ИИ. Если компании примут этот стандарт, они смогут установить общие лимиты, обязуясь не превышать определенный порог, пока не будет достигнут конкретный этап в понимании и мониторинге поведения ИИ.
Частые вопросы
- О чём новость «OpenAI предлагает использовать perplexity для установления лимитов развития ИИ»?
- OpenAI предложила использовать perplexity — метрику, измеряющую способность модели предсказывать следующий токен — как общий стандарт для измерения прогресса ИИ.
- Почему это важно для IT и бизнеса?
- Материал фиксирует изменения в технологиях и инфраструктуре, которые могут повлиять на решения компаний. OpenAI предложила использовать perplexity — метрику, измеряющую способность модели предсказывать следующий токен — как общий стандарт для измерения прогресса ИИ.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml