Перед лицом открытого исходного кода у OpenAI нет рва: сегодня наступил момент большой модели Android.

Первоисточник: Чживэй

Источник изображения: сгенерировано Unbounded AI‌

За последние полгода OpenAI всех поразил GPT.

** Люди обычно считают, что рождение GPT — это момент «iPhone» новой эры **, он станет ключом к новой эре больших моделей ИИ, точно так же, как iPhone привел людей в эру мобильного Интернета.

Однако в процессе бурного развития ** мобильного Интернета учитывались не только достижения iPhone, но и достижения Android и основных производителей мобильных телефонов Android, стоящих за ним. **

Даже с точки зрения поставок вклад лагеря Android в эпоху мобильного Интернета кажется большим.

** А теперь наступает «момент Android», относящийся к большой языковой модели ИИ. **

18 июля по местному времени, рано утром по пекинскому времени, Meta выпустила последнее поколение большой модели с открытым исходным кодом Llama 2.

Согласно общедоступным данным на официальном сайте Meta, выпущенная на этот раз модельная серия Llama 2 включает в себя варианты моделей с тремя параметрами: 7 миллиардов, 13 миллиардов и 70 миллиардов.

Llama 2 был обучен с использованием 2 триллионов токенов и имеет более 1 миллиона данных, аннотированных вручную. По сравнению с Llama 1, Llama 2 имеет на 40 % больше обучающих данных и в два раза больше длины контекста.

После этого обновления, согласно опубликованным документам Meta, хотя Llama 2 все еще уступает GPT-3.5 в различных тестах крупномасштабных моделей, по сравнению с текущими оценками текущей крупномасштабной модели с открытым исходным кодом, она уже достигнут уровень, который вообще забивается.

Сравнение результатов работы Llama 2 с GPT и PaLM

Сравнение результатов работы Llama 2 и других крупных моделей с открытым исходным кодом

Возможно, вы испытаете презрение, когда увидите, что Llama 2 уступает GPT-3.5, ведь последняя эволюционировала до версии 4.0.

Тем не менее, вы должны понимать, что когда Android был впервые запущен, он также был очень коротким, а открытый исходный код позволил лагерю Android конкурировать с iPhone сейчас. **

Поэтому самой большой изюминкой релиза Llama 2 на самом деле является:

** Meta делает шаг вперед на основе открытого исходного кода, позволяя свободно использовать модель в коммерческих целях. ** (Для продуктов с более чем 700 миллионами активных пользователей в месяц необходимо отдельно подать заявку на коммерческое разрешение, но немногие компании могут соответствовать этому стандарту)

Ян Ликунь, лауреат премии Тьюринга и главный научный сотрудник Meta, также заявил в Твиттере, что это изменит структуру рынка моделей больших языков:

Редакционный отдел Zhiwei также связался с Zhiyuan AI Research Institute, который имеет большое влияние как в академических кругах, так и в сообществе открытого исходного кода.Их оценка такова:

**Открытый исходный код — единственный путь. Можно с уверенностью сказать, что выпуск Llama 2 — это «момент Android». Использование открытого исходного кода для завоевания рынка — это конкурентная стратегия. **

В соответствии с коммерческим открытым исходным кодом Llama 2 отношение OpenAI к открытому исходному коду всегда было неоднозначным.

Открытый исходный код, или движение за открытый исходный код, официально началось в конце 1990-х годов.Участники верили в открытый исходный код, обмен информацией и свободное использование программного обеспечения.

Рост Android и популярность GitHub неотделимы от открытого исходного кода. Система Linux также родилась на этой волне движения.Сегодняшние маршрутизаторы, коммутаторы, умные стиральные машины, умные рисоварки, коммутаторы, серверы и другие устройства оснащены практически всеми видами систем Linux.

Включая успешную посадку американского марсохода несколько лет назад, это также символизирует то, что Марс стал второй планетой, на которой количество компьютеров с Linux превышает количество компьютеров с Windows.

Не будет преувеличением сказать, что открытый исходный код сегодня изменил модель сотрудничества и инноваций в программном обеспечении и изменил технологический ландшафт.

Но в области больших языковых моделей лидер OpenAI, кажется, идет вразрез с Open в названии.

Несмотря на то, что основатель OpenAI Сэм Альтман неоднократно публично заявлял, что в будущем откроет исходный код GPT-3 и GPT-4**, это пока пустой чек. **

Даже после того, как Маск вышел из OpenAI, он также много раз публично критиковал OpenAI, недовольный огромной прибылью OpenAI и постепенно закрывая источник.

Суцкевер, главный научный сотрудник OpenAI, ответил, что преждевременный открытый исходный код приведет к тому, что OpenAI потеряет свои лидирующие позиции в технологиях, а мощь большой языковой модели огромна, а открытый исходный код может иметь риски для безопасности.

Маск усомнился в том, что OpenAI не является Open

В отличие от робости OpenAI перед лицом открытого исходного кода, Meta является стойким сторонником открытого исходного кода и в определенной степени продвигает исторический процесс искусственного интеллекта.

И сегодняшнее решение Меты должно быть как-то связано с главным ученым Меты, Ян Ликунем.

Еще в 2014 году Цукерберг осознал перспективность ИИ.После того, как DeepMind была окончательно приобретена Google, Цукерберг развернулся и нашел Ян Ликуня, крупную шишку в академической сфере ИИ.

Ян Ликунь, работавший в знаменитой Bell Labs, был одним из разработчиков «Сверточной нейронной сети», в то время он преподавал в Нью-Йорке.

Согласно сообщениям VOX, чтобы получить Ян Ликуня, великого коня, Цукерберг пообещал, что результаты научных исследований должны быть с открытым исходным кодом, лаборатория должна быть построена в Нью-Йорке, а экспериментальной команде не нужно учитывать рентабельность.

Ян Ликунь многого добился за время своего пребывания в должности, например, разработал всемирно известную платформу искусственного интеллекта Pytorch, улучшил GAN (сеть генеративной конфронтации), запустил большую языковую модель Llama и модель изображения AI SAM и т. д.

** Как было согласовано в те годы, все эти проекты были с открытым исходным кодом. **

На волне больших языковых моделей большая языковая модель Llama также очень популярна в сообществе открытого исходного кода.

В сообществах с открытым исходным кодом, таких как Hugging Face, есть все виды магически модифицированных альпак (лама в китайском переводе — альпака).

В том числе Alpaca Стэнфорда, Vicuna UCB… Появились различные модифицированные модели, основанные на LlamA.

Во многих больших списках бегущей модели, под GPT-3.5 и GPT-4, почти все списки убоя семейства альпака.

Кроме того, Ян Ликунь не согласен с закрытым исходным кодом OpenAI по соображениям безопасности.

По его мнению, единственный способ сделать платформу ИИ безопасной, хорошей и полезной — это открыть ее исходный код. **

Другими словами, технологиям опасно находиться в руках нескольких человек.Только позволяя власти контролировать развитие ИИ в то же время, можно максимально контролировать ИИ.

В настоящее время это может сделать только открытый исходный код.

В общем, на волне больших языковых моделей во главе с OpenAI армия открытого исходного кода во главе с Meta безумно атакует города и земли в сообществе открытого исходного кода.

С другой стороны, конфликт между открытым исходным кодом и закрытым исходным кодом постепенно накаляется.

В мае этого года служебная записка, «случайно» просочившаяся от исследователя Google, положила конец битве.

Редакционный отдел Zhiwei кратко резюмировал ключевые моменты, упомянутые исследователями Google в этой записке:

① AI с открытым исходным кодом вторгается на территорию Google и Open AI;

②Маленькие модели более конкурентоспособны, чем большие;

③ Качество данных гораздо важнее их количества;

④Google не может превзойти открытый исходный код;

⑤ Google нуждается в экосистеме с открытым исходным кодом больше, чем Google с открытым исходным кодом.

Короче говоря, эта красноречивая статья с тысячами слов раскрывает основной посыл:

** Перед лицом открытого исходного кода ни у Google, ни у OpenAI нет рва. **

Итак, оглядываясь назад на Llama 2, выпущенную на этот раз, Meta напрямую сняла ограничения на коммерческое использование, что действительно является еще одной армией для лагеря с закрытым исходным кодом.

Llama2 с открытым исходным кодом не только бесплатен, но и позволяет разработчикам настраивать его самостоятельно, чтобы удовлетворить недорогие и персонализированные потребности большинства коммерческих компаний.

Однако, в конце концов, кто является победителем между открытым исходным кодом и закрытым исходным кодом, редакция Zhiwei считает, что сделать вывод непросто.

В конце концов, открытый исходный код — это не панацея, есть хорошие и плохие разработчики, некоторые риски общественной безопасности и т. д. — все это проблемы, с которыми часто сталкивается открытый исходный код.

В конечном счете, конкуренция между открытым исходным кодом и закрытым исходным кодом — это разные стратегии конкуренции: один уделяет больше внимания расширению рынка и установлению стандартов, а другой — прибыльности и передовым технологиям.

Например, Android и iOS, Linux и Windows могут в итоге не выиграть и не проиграть, а найти свое разумное позиционирование под разные нужды.

Однако нет никаких сомнений в том, что Llama 2 всколыхнула весь рынок и вызвала тонкие изменения в экологии:

① Microsoft, один из акционеров OpenAI, на этот раз стала предпочтительным партнером Llama 2, и Microsoft, похоже, делает ставку на обе стороны.

② Meta объявила, что Llama 2 сможет работать на чипах Qualcomm, что, несомненно, станет проблемой для Nvidia, повелителя чипов AI.

Короче говоря, драма в большом кругу языковых моделей становится все более сложной и интересной.

Если мутная вода, вызванная Llama 2, ускорит наступление эры ИИ, помните, что это не только заслуга Meta, но и заслуга сообщества открытого исходного кода.