От анализа данных к генерации знаний: как ИИ совершает качественный скачок

Современные модели ИИ проходят двухэтапное обучение. Сначала система анализирует огромные массивы данных, создавая свою «модель мира». Затем с помощью обучения с обратной связью (RLHF) эти знания превращаются в практические навыки. Пачоцки подчёркивает, что второй этап особенно важен для новых «рассуждающих» моделей, хотя и имеет ограничения в масштабируемости.

По мнению исследователя, разделение на этапы обучения условно. «Модели не учатся мыслить с нуля — они опираются на базу, полученную при предварительном обучении», — поясняет Пачоцки. Его текущая работа посвящена поиску оптимального взаимодействия между этими процессами.

Интересно, что обучение логике не даёт ИИ новых способностей, а лишь помогает эффективнее использовать имеющиеся знания. Это подтверждает свежее исследование, согласно которому ИИ решает знакомые задачи более структурированно, но не выходит за рамки усвоенной информации.

Пачоцки признаётся, что его взгляды на развитие ИИ постоянно меняются. Ещё недавно победа AlphaGo в 2016 году казалась ему невероятной, а сегодня ИИ решает математические задачи и проходит тесты, которые ещё вчера считались исключительно человеческими.

Ближайший прорыв, по мнению эксперта, — появление коммерчески полезных ИИ, способных проводить автономные исследования. Такие системы, возможно, начнут создавать программное обеспечение уже в этом году, а к концу десятилетия мы увидим значительный прогресс в этой области.

OpenAI и Microsoft даже разработали экономический критерий оценки прогресса — окупаемость инвестиций в 100 миллиардов долларов. Это отражает практический подход к развитию ИИ, где главным показателем становится реальная польза для бизнеса и науки.