Илон Маск согласился с утверждениями других экспертов касательно того, что осталось мало реальных данных для обучения ИИ-моделей. Об этом пишет TechCrunch.
«Сейчас мы исчерпали практически всю совокупность человеческих знаний в области обучения ИИ. Это произошло в прошлом году», — сказал он в ходе беседы с председателем совета директоров Stagwell Марком Пенном.
В декабре соучредитель OpenAI и основатель ИИ-стартапа Safe Superintelligence Илья Суцкевер заявил, что индустрия достигла пика использования данных. По его мнению, ИИ-агенты, синтетическая информация и ускорение вычислений — следующий этап эволюции искусственного интеллекта, который приведет к появлению суперинтеллекта.
Маск считает синтетические данные — информацию, генерируемую искусственным интеллектом, — путем вперед.
«Единственный способ дополнить [сведения из реального мира] — это синтетические данные, когда ИИ создает [обучающую информацию]. С такими материалами [ИИ] как бы сам себя оценит и пройдет через этот процесс самообучения», — добавил предприниматель.
В 2024 году ИИ-стартап Anthropic применил синтетические данные для обучения одной из своих флагманских моделей Claude 3.5 Sonnet. Meta доработала свои нейросети Llama 3.1 с помощью созданных ИИ материалов. OpenAI также применяет синтетическую информацию для обучения o1 — «рассуждающего» искусственного интеллекта.
Напомним, ИИ-стартапы начали поиски новых способов масштабирования из-за нехватки высококачественных данных.