Как продать AGI Китаю?
У топ-менеджмента OpenAI есть план по продаже AGI РФ/Китаю/США, устроив для начала «качели» за лучшее предложение от правительств стран, планируется начать с США - заявил экс-сотрудник OpenAI Леопольд Ашенбреннер в интервью
Но это еще не все! Леопольд выпустил свой документ об AGI, (https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf) в котором он делится своим видением будущего ИИ.
Отметим, что Леопольд был в команде Ильи Суцкевера и его уволили из OpenAI в апреле из-за того, что он якобы занимался сливом информации. А сейчас он с именитыми венчурными инвесторами запустил свой венчурный фонд для AGI.
1. К 2025-2026 годам эти продвинутый ИИ превзойдет по интеллекту выпускников колледжей, а к концу десятилетия станет умнее любого человека.
Ашенбреннер предупреждает, что этот прогресс может привести к гонке в области ИИ между США и Китаем, а в худшем случае — к полномасштабной войне.
2. AGI появится уже в 2027 году. Это будет сопоставим с человеческим разумом. Ашенбреннер приходит к этому выводу, анализируя темпы прогресса в области deep learning за последние годы.
3. Ключевую роль будут иметь алгоритмические прорывы, а не только масштабирование вычислений. В ближайшие годы модели превратятся агентов, сравнимых с людьми.
4. Существует проблема - «Стена данных». Ее суть в том, что данные в интернете не бесконечны (сейчас ИИ-модели обучаются именно на них). Если рассматривать область программирования, то все публичные репозитории на Github оцениваются примерно в 1 миллион токенов. Вероятно, подход к обучению моделей вскоре придется менять.
5. После достижения AGI прогресс не остановить. Сотни миллионов AGI смогут автоматизировать ИИ-исследования, сжав десятилетие алгоритмического прогресса (5+ порядков величины) в 1 год. Мы быстро перейдем от человеческого уровня к ИИ-системам, намного превосходящим человека.
6. Общество движется к созданию индивидуальных кластеров для обучения моделей стоимостью в сотни миллиардов $ к 2028 году. Они будут требовать мощности, эквивалентной той, что требует небольшой штат США. А уже к концу десятилетия мы придем к кластерам стоимостью более чем в $1 трлн, требующим мощности более 20% от производства электроэнергии в США. Триллионы $ пойдут на производство сотен миллионов GPU в год.
7. При текущем курсе развития событий, ведущие китайские AGI-лаборатории будут находиться не в Пекине или Шанхае, а в Сан-Франциско и Лондоне. Через несколько лет станет ясно, что секреты разработки AGI являются самыми важными секретами национальной обороны и заслуживают такого же отношения, как чертежи бомбардировщиков, не говоря уже о «ядерных секретах».