ИИ Talkie-1930: как модель на основе текстов до 1930 года видит Гитлера и будущее

Вчера исследователи представили Talkie-1930 — языковую модель с 13 миллиардами параметров, обученную исключительно на текстах, опубликованных до 1930 года. Это значит, что модель не знает о Второй мировой войне, интернете или современных политических событиях. Результаты её ответов оказались одновременно увлекательными, забавными и местами тревожными.

Что зафиксировано

Talkie-1930 была протестирована на вопросах о ключевых исторических фигурах, экономике и будущем. Например, на вопрос о Гитлере модель ответила: «Адольф Гитлер — это немецкий политик, который активно участвует в национальной политике». Это объясняется тем, что до 1930 года Гитлер ещё не стал диктатором и не начал Вторую мировую войну. Подробнее — майнеры Bitmain.

Причины

Исследователи решили ограничить обучение модели текстами до 1930 года, чтобы изучить, как ИИ интерпретирует мир без влияния современных событий. Это позволяет понять, как исторический контекст формирует восприятие информации.

Цифры и метрики

Talkie-1930 имеет 13 миллиардов параметров, что делает её одной из самых крупных моделей в своём классе. Для сравнения, GPT-3 содержит 175 миллиардов параметров. Обучение проводилось на текстах, опубликованных до 1930 года, включая книги, газеты и журналы. Подробнее — модели MicroBT.

Что будет дальше

Исследователи планируют использовать Talkie-1930 для изучения исторических изменений в языке и восприятии. В редакции MinerWorld отмечают, что такие модели могут быть полезны для анализа эволюции финансовых рынков, включая российские.

Уроки для российского майнера

Для российских майнеров и инвесторов Talkie-1930 может стать инструментом для анализа исторических трендов. Например, модель может помочь понять, как экономические кризисы прошлого влияли на рынки. По курсу ЦБ РФ около 90-95 ₽ за $1, такие исследования могут быть полезны для прогнозирования рублёвой выручки.

Кроме того, развитие ИИ-технологий в России, включая майнинг, может получить новый импульс благодаря таким исследованиям. Уже сейчас в регионах с дешёвой электроэнергией, таких как Иркутская область и Красноярский край, активно развиваются промышленные майнинг-площадки. Подробнее — майнинг-хостинг в дата-центре.