Капитанский мостик - 23

Двадцать третий выпуск подкаста Капитанский мостик, обсуждение новостей из мира ИИ за прошедшую неделю и не только. Ведущие подкаста - Валентин Малых и Дмитрий Колодезев

Площадки

• Youtube
• RuTube
• VK Video
• Дзен
• Аудио

ИИ-саммари

В этом подкасте обсуждаются последние новости в области робототехники и автоматизации, включая соревнование по машинному переводу, появление темных фабрик, развитие роботов, таких как Т-800, и влияние OpenAI на экосистему разработки AI.

Также рассматриваются вопросы безопасности смарт-контрактов и их уязвимости.

В этом разговоре обсуждаются проблемы смарт-контрактов и кибербезопасности, инновации и стартапы в России, экономика и доходы IT-компаний, будущее робототехники и ИИ, а также развитие аппаратного обеспечения для ИИ.

Участники подчеркивают важность формальной верификации смарт-контрактов, растущий интерес к кибербезопасности, а также необходимость адаптации компаний к новым экономическим условиям и технологиям.

В этом эпизоде обсуждаются ключевые темы, связанные с развитием искусственного интеллекта и облачных технологий, включая конкуренцию между крупными игроками, проблемы с ценами на память, ограничения в ресурсах, тренды в локальной обработке данных и неожиданные новости о коррупции в сфере ИИ.

Содержание

• 00:00:00 Начало
• 00:00:36 Темные фабрики
• 00:06:44 Терминатор знает кунфу
• 00:12:08 Они не верят в роботов
• 00:17:07 OpenAI на Нептуне
• 00:20:48 ИИ находит дыру
• 00:26:59 ИИ-ландшафт России
• 00:36:54 Trainium от Amazon
• 00:39:47 TPU лучше
• 00:46:04 Baidu тоже так думает
• 00:48:01 ИИ сожрал память
• 00:53:34 LoRA на смартфоне
• 00:58:42 Доминирование на исходе
• 01:04:09 ИИ против коррупции

Ссылки

Оставляйте новости к следующему выпуску в нашем канале в Mattermost. Там же мы размещаем дополнительные материалы.

• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Валентин Малых 0:00
Всем привет! Вами, как всегда, Валентин Малых и Дмитрий Колодезев, попробуем следить новости за текущую неделю. Пардон, за не очень хороший звук. Я в поездке и не захватил микрофон. Прежде чем начнем, хотел бы сказать, что у нас запустилось соревнование по машинному переводу на тюркские языки. Так что, пожалуйста, приходите на ОДС, участвуйте, если вам интересно. Ну и расскажите всем окружающим про него, потому что соревнование, на мой взгляд, довольно уникальное и приносит непосредственно пользу людям. Вот. Сегодня первая новость у нас про робототехническое производство. Ну, как говорится, случилось то, о чем так долго предупреждали большевики, а именно появились так называемые «темные фабрики». Мне, честно, не нравится это название, но оно идет по аналогии с английским языком. Есть так называемые «дарк-сторы», где нет, собственно, торгового зала, а есть просто склад, с которого отправляются товар. Ну, я думаю, что сейчас все. Кто живёт в крупных городах, такое видели. Вот, а сейчас появились фабрики на них. В общем-то, зал как таковый есть, на них, вероятно, даже есть. Какое-то освещение, я так думаю, потому что всё-таки визуальный контроль никуда не денешь. Скорее всего, для большинства технологических операций он нужен, но тем не менее. А сами по себе вот эти вот тёмные заводы — это суть в том, что там просто нет людей. Да, то есть ставится такая коробка посреди тайги, да, и на выходе у нас получаются готовые айфоны, а ты снаружи только электричество и песок засыпаешь. Ну, я утрирую, конечно, но вот что-то такое.

Дмитрий Колодезев 1:47
Технологии, потому что, например, тот же самый современный фрезеровочный станок, он очень похож на эту историю, только масштабом поменьше. Есть коробка такая, когда запихиваешь заготовку, закрываешь, потом достаёшь готовую деталь. Вот, и люди туда не лезут. Я думаю, что всё так и будет развиваться, именно в фабрике. То есть, грубо говоря, сам станок растёт, растёт в размере, пока не становится размером с завод. Вот и всё.

Валентин Малых 2:19
Ну, я тут согласен. И тут, кстати, один момент нужно дополнить, что, как бы, любое производство состоит из цепочки технологических операций. Я думаю, что это, в общем, ни для кого не секрет, что это довольно стандартное. Собственно, слово «конвейер» оно придумано именно потому, что у нас есть некоторый набор. Операции, которые нужно сделать последовательно, ну, конвейер там. Их автоматизировать, но это не важно. Важно то, что большая часть, давай так скажем, проблем заключается в том, что после того, как мы сделали одну операцию, нам нужно детальку перенести с одного станка на другой, и, что самое важное, это отпозиционировать. Да, то есть после того, как мы её поставили, нужно понять, нужно сделать так, чтобы станок был уверен, что она в общем. Именно работает, точнее, стоит так, как было задумано. Ну, точнее, станху-то всё равно, он просверлил дырку там, где ему скажут, а вот человеку не всё равно, что получится. Поэтому вот эта точная расстановка — это основная временезатратная часть любого производства. А здесь мы как бы убираем. Собственно, источник вот этой самой неточности, а именно человека. Да, то есть у нас между станками, если робот перекладывает, скорее всего, это сильно проще контролировать, чем перекладку человека. Я думаю, что в это всё выпираешь.

Дмитрий Колодезев 3:39
Есть ещё пара моментов. Первое — это среднее время до отказа. А если машина отказывает три раза за смену, тебе люди всё равно нужны. Если машина отказывает три раза в год, в общем-то, наверное, и не нужны. Точно так же, как, допустим, в конторе набитой полудохлыми странными компьютерами, из которых сгорает каждое утро один, да, на обязательности с админа в дата-центре, в общем, где их стоит, а десять тысяч, может быть, да, и они по-прежнему сгорают, но там... Есть бригада, но она такая время от времени заходит. Кстати, вот дата-центр, сравнительно с обычной бухгалтерией, он так и выглядит же. То есть, есть место, где людей нет в норме. То есть, среднее время до отказа, а вторая важная вещь на производстве — это время переналадки. То есть, в многих предприятиях, частично из-за... Ограничений финансовых частично из-за ограничений в объёме производства. Один и тот же станок используется на многих операциях последовательно. Сначала мы насверлили круглых дырок, потом квадратных, потом треугольных. Да, если что, треугольные дырки — это не шутка, мы действительно их можем сверлить. А вот и... Мы берём, переналаживаем один и тот же станок, опять же, позиционируем, настраиваем и так далее. То есть, в случае, когда у нас очень большой поток и ограничений по количеству станков настроенных нет, то мы можем просто поставить вместо этого три сверлильных станка, три фрезеровочных станка, и каждый будет делать ровно одну операцию, его не надо будет переналаживать. Ну и автоматическая переналадка тоже.

Валентин Малых 5:19
Ну, в общем, да, я думаю, что это непосредственно будущее. И вот для многих односторонно беспространённое заблуждение, что многие люди думают, что в Китае... Очень дешёвые рабочие силы, людей много, и зачем им вообще роботы? Это заблуждение, причём оно, наверное, относится где-нибудь к 50-м. Дело в том, что вот, я, мне кажется, уже про это говорил, но, опять же, это не я придумал, это официальные данные. Второй год официально. Вероятно, этот год будет уже третьим, когда в Китае сокращается население. Оно не просто сокращается, оно ещё и стареет. Поэтому Китай очень сильно вкладывается в роботизацию всего, потому что, ну, делать всё равно надо, те же самые, не знаю, шурупы какие-нибудь, дайте там клет печь, а людей становится меньше. То есть, молодые люди, которые могут хорошо много работать, их становится меньше. Людей старых, которым уже просто надо на пенсию и отдыхать, их становится больше. Ну вот, так что имеем то, что имеем. Вот, ну что можно сказать? Я прогнозирую, что учитывая, что у нас достаточно много энергии, я имею в виду много дешёвого энергии, то у нас такие производства тоже появятся. Скорее всего, в Сибири будут размещать место одно. Следующая новость — это про робота T-800, стартапа NGNI, и там, в общем, довольно забавно, что он там. Показывает, как он дерётся, да, показывает какие-то трюки типа кунг-фу-ушу, я уж не знаю, карате, какие-то восточные единоборства явно. И, во-первых, я хочу отметить вкус авторов, которые назвали своего робота T-800. Если, опять же, вероятно, часть нашей аудитории не знает, к чему эта отсылка, но... Вообще говоря, фильм «Терминатор», собственно, в «Терминатор», сам «Терминатор», который играл Арнольд Шварценеггер, он был как раз т-800. Меня немного смущает, что в первом Терминаторе T-800 вообще-то всех убивал. И, как бы, наверное, это не очень хорошая ассоциация, но во втором фильме он зато уже спасал. Вероятно, они это имели в виду, хотя я тут не берусь утверждать. В общем, что здесь можно прокомментировать? Насколько я вижу, движения роботов становятся всё более и более естественными. Насколько это записанная программа, а насколько он действует автономно, не берусь сказать. Подозреваю, что для ролика она всё-таки была записана, но тем не менее это. Уже очень серьезный прогресс, и я думаю, что в ближайший год мы много всяких студий увидим от роботов, а в течение там пяти лет я прогнозирую, что роботы-андроиды появятся во многих, на всём, модных местах, потом. Всё более и более, скажем так, просты в применениях. Ну, я имею в виду, что если в какой-нибудь центральной московской кафешке робот-официант появится, ну, я прогнозирую к концу следующего года, то где-нибудь в, не знаю, моём любимом Валукаяново, там он появится, ну, в летом с 15. Ну, это, опять же, моя гипотеза. Посмотрим, какие там будут у нас последствия.

Дмитрий Колодезев 8:41
Слушай, ну в заряде три года, по-моему, назад стоял робот, который варил кофе и отдавал тебе его робо-рукой. То есть это как бы мне. И тут забавны на самом деле характеристики самой этой железки. То есть его полная масса — 75 килограмм. То есть он не очень тяжелый, так-то. Для очень энерговооружённого робота, то есть тут они говорят, что у него приводы по 45 кгс·м, да, ну это достаточно много, если кто не понимает. Это вот он, не знаю, батарею он не оторвёт, вот, но нет такой гайки, которую он не смог открутить, вот. Или резьбу срывать, в том смысле, что это хорошо энерговооруженный робот с малой массой. То есть он действительно полезен, в отличие от вот этих вот андроидов, которые походят действительно на людей с болезнью Паркинсона. У которых недостаточно энерговооруженности, чтобы двигаться, и вот этих вот атласов, которые достаточно тяжелые вообще-то. Вот, то есть он весит как человек, и его действительно можно, ну, посадить в машину, там, допустим, посадить на стул. Ну, как бы для него не нужно специальное оборудование. То есть вот это вот, то есть он какой-то порог такой перешел, когда он... Становится действительно пригодным для использования вместо человека в тех же интерфейсах.

Валентин Малых 10:08
Слушай, ну вот я бы здесь добавил, что тут надо сказать, что T-800 не первый такой робот. То есть я уже за последнее время видел, ну, несколько новостей про роботов с сравнимых характеристиками, да, там где-то с весом до. Ста килограмм и ростом порядка до двух метров, да, ну, как правило, там 170–180 сантиметров коботы, и это прямо сейчас тенденция. Почему? Очевидно, да, потому что Робот плюс-минус как стандартный человек. Да, то есть у нас люди стандартно там 170, 180 сантиметров за час и весят примерно столько же. Ну, если вы когда-нибудь в лифте ездили, я думаю, что многие ездили, то вот он рассчитан как раз на стандартных людей. Да, у него понятно, что Собственно, высота кабины побольше, ну, чтобы людям было комфортно. Но в целом он рассчитан на людей ростом до двух метров, можно на двери посмотреть. А по весу там что-то указано, что вы должны быть весом 180 килограмм для того, чтобы лифт вас возил. Там так явно не написано, но в целом там легко считается. По общей массе перевозимой и количеству людей, которое там является ограничением. Так что, ну вот, мы пришли к тому, что роботы стали вписываться в ограничения, которые мы привыкли, блядь, человека. А раз это так, значит, роботы будут распространяться. Я говорю, роботы-официанты — это уже буквально завтрашний день. Ну, учитывая, что танков было заготовлено там несколько, чуть ли не десятков тысяч, то робот-пилот танка вполне себе, кажется, неплохой идеей. В каком-то смысле, может быть, даже лучше, чем это самое, чем человек-пилот танка. Хотя, знаешь, хотелось бы, чтобы танки в принципе были не нужны, но тут как бы жизнь так устроена, что, судя по всему, нужны будут всегда. Вот. Следующая новость. Это на самом деле, на мой взгляд, какая-то феерия, потому что вот этот вот Figure.ai — это компания, которая, американская компания, которая делает роботов. Недавно выпустили своего робота Figure 03, и вот глава Figure.ai не поверил. Новости, которые мы обсуждали в прошлом подкасте, да, про вот эти бесконечные шествия роботов, которые. Соответственно, охраняет границу в Китае. Он сказал, что это всё фейк, и роботов на самом деле так хорошо работающих просто нет. Но там дальше есть продолжение, я тут не буду жару включать, но суть в том, что его коллеги из Ubitech, это китайские коллеги, заметили и прислали видео, где, соответственно, Снято не такой красивой камерой, а просто дрон облетает. Вот этот строй роботов и нереально так действует. Да, то есть, ну, знаешь, в англоязычной литературе есть такое понятие как «спутник-момент». Его довольно красочно описал в своих, ну, в одном из своих, по-моему, в автобиографии, что ли, Стивен Кинг писал. Как он успугался того, что русские запустили спутник, он сказал, что это был самый страшный момент в его жизни. Может быть, с тех пор стал жестко писать. Вот здесь, мне кажется, вот этот спутник-момент, он происходит прямо сейчас с роботами для американцев. То есть, оказалось, что китайцы уже сделали роботов, которых вы только хотите сделать. И это вы. Вы просто являетесь свидетелем того, что эти роботы вот сейчас прямо производятся тысячами штук, а завтра будут производиться миллионами штук, и с этим уже ничего нельзя сделать. Это на самом деле действительно в каком-то смысле довольно страшно.

Дмитрий Колодезев 13:55
Тут есть два момента. Первый, я думаю, что люди помоложе нас с тобой могут не понимать, с чем был, собственно, спутник момент. А тогда шла первая серия гонки ядерного оружия, и ядерные бомбы были, но чтобы её сбросить, нужно было сесть в самолёт и долететь. Лично сбросить, то есть на самом деле для этого должен быть аэродром недалеко от места, который ты собираешься разбомбить. И в общем, такая полномасштабная ядерная война была для жителей, допустим, Нью-Йорка или Вашингтона. Это такая что-то, что творится у этих чуваков за океаном. Вот, а спутник момент был в том, что вот. Размером примерно с боеголовку предмет летает у тебя над головой, и ничего ты с этим сделать не можешь. Вот, то есть на самом деле, вот та война, про которую ты думал, что она затронет только Пупласов, может затронуть и тебя, и это ломает всю картину мира. С роботами же что интересно? Я видел тут недавно похожее видео, когда Fortap разрезал ногу робота на людях, то есть. Просто там были такие же утверждения, что вот у вас домашний робот, он в нём человек, он не может так хорошо ходить. Тогда робот вышел на сцену, пришла бригада инженеров, и они при людях отрезали ему ногу, и он продолжал стоять на второй ноге. Ну, в смысле, не полностью отрезали, а отрезали обшивку, чтобы там эти самые суставы и всё это.

Валентин Малых 15:25
Я думал, что это будет, знаешь, это припомнят, когда роботы придут к власти.

Дмитрий Колодезев 15:30
Да, и он на самом деле говорил, что я надеюсь, это последний раз, когда приходится такое делать на людях. Но просто, говорит, по-другому, доказать, что это просто реальность, мы не можем. То есть уже в наш век, когда есть нейросети и прочее. Грань между реальностью и нереальностью, в общем, такая вот. То есть, остались такие способы убеждения. Да, вот вы не верите, что это робот. Давайте мы отрежем многое, и вы увидите, что там торчат провода. Кстати, по-моему, в дознании пилота Пиркса что-то похожее было. Но не суть. Я к тому, что действительно всё это доходит до таких границ, где людям уже не хочется в это верить.

Валентин Малых 16:10
Слушай, ну, ещё Телевин, я его периодически вспоминаю. На мой взгляд, действительно, он один из ведущих писателей современности, простоязычных, по крайней мере, и он это ещё в 90-х годах предсказал, да, про когда он написал свой «Ампир В», и там все политики были просто Нету симуляции, да, то есть в реальной жизни политика не было. И у них были специальные актеры, которые насказывали, что его видели. Да, то есть, вот там уже грань реальности уже довольно сильно размывалась именно тогда, хотя про это тогда ещё было очень сложно подумать. А сейчас мы вынуждены доказывать реальность того или иного события, потому что У нас действительно существуют такие видеогенераторы, что лично меня уже довольно легко обмануть. Да, то есть я уже не всегда могу отличить, когда видео. Я думаю, что даже в большой части видео я не смогу отличить, когда оно настоящее, но особенности короткое. Следующая новость. Немножко про другое, отключёмся от роботов. Есть, ну точнее, уже в каком смысле был такой стартап, называется Neptune AI, и они написали, что их купил OpenAI. С тех пор можно уже не шутить, что OpenAI стал клоустрем, это уже давно не шутка. А важно тут то, что OpenAI играет какую-то самостоятельную игру, и они пытаются создать себе полноценную экосистему того, как, собственно, делать и разрабатывать. Neptune AI, насколько я помню, они какой-то фреймворк для управления, собственно, разработкой делали. Тут ты меня, наверное, поправишь. Я так как не пользовался, не особо в курсе. Расскажи, пожалуйста.

Дмитрий Колодезев 17:53
История про Neptune AI — это когда у вас есть команда, которая делает какие-то модельки, и вам нужно посмотреть, как моделька училась, как вы проводили эксперименты, как она ведёт себя на проде и так далее и тому подобное. То есть прямой конкурент Neptune AI — это Weights & Biases. И ещё у нас в стране очень популярен MLflow с этой же целью. Компании, которые именно вот эту. Управление экспериментами и observability обеспечивает их не так много, и у Neptune хорошая экосистема, хорошие учебники, свои какие-то прикормленные разработчики. И интересно, что OpenAI фактически, ну почему интересна покупка Neptune? Потому что это... Инструмент для классической разработки, как мы его привыкли. OpenAI, который как бы переворачивает всю разработку с ног до головы, он покупает инструмент, который позволяет людям лучше отлаживать модели. Да, причем у самого OpenAI очевидно проблем с отладкой модели нет, то есть он его покупает, чтобы интегрировать свою экосистему. То есть я интерпретирую это как то, что OpenAI строит экосистему разработки, там экосистему разработки 2.0, там 3.0, неважно. Ну да, просто в свое время. Windows же победила не потому что Microsoft такие хорошие продавцы, поэтому тоже, а потому что она сделала. Удобную экосистему для разработчиков, в которую было легко войти, где можно было легко развиваться, где можно было легко учиться. Были доступны хорошие инструменты и растущий рынок, который продавцы как раз и обеспечивали. И вот тут получается, что они пытаются сделать то же самое, то есть строить инфраструктуру разработки.

Валентин Малых 19:51
Ну, я думаю, что это ставка очень правильная, потому что Как бы делать бесконечно новые модели, которые пытаться продавать людям, судя по всему, не работает. Да, то есть, судя по всему, а здесь это прямо Даже не то чтобы прогноз, это просто некий вариант, который я вижу, может быть, он неправильный. Суть в том, что мы, кажется, переходим к тому, что у нас самые большие модели, они остаются только как, ну, в каком-то смысле, бенчмарки. Да, то есть мы знаем, что мы можем сделать такое большое, хорошее, красивое, а в реальной жизни мы пользуемся чем-то поменьше. Что нам делает какую-то конкретную задачку? Ну, может, не конкретную задачку, а набор конкретных задачек. Но в реальной жизни мы пользуемся чем-то другим, что сильно дешевле и по инференции, и по всему. И, собственно, насколько я представляю, там использование самой крупной модели OpenAI, оно тоже сильно-сильно меньше, чем использование на той же самой модели, только с приставкой Mini. Вот как-то так. Следующая новость довольно интересная. Это уже от Anthropic. И Anthropic провели исследования. Ну, как они говорят, что они всё это делали максимально безопасно только в эмуляторах. Но в целом исследование такое, что вот у нас есть эмулятор какой-то блокчейна. Ну давайте для красоты скажем, что это эмулятор биткоина. Это неправда, но это... Просто для аналогии. И они, как бы, натравили свои модели на то, чтобы они искали уязвимости в, собственно, смарт-контрактах, то есть в том, что и обеспечивает работоспособность биткоина и других каких-то валют, и, что характерно, их нашли. И насколько я помню, может, я тут Немножко не совсем корректно прочитал, но суть в том, что кажется, там моделька нашла способ, как к каждой транзакции приписывать небольшой кусочек, в смысле, чтобы маленький кусочек с транзакции шёл на какой-то конкретный счёт. Вот, и так что вот тут у нас Просто мы получаем то, что у нас вот такая история произошла. Да, то есть. Фактически мы с вами живём в Ару, когда У нас нет ничего защищенного. Защищенность обеспечивается довольно сложными методами, которые слишком дороги для повседневного применения, и мы фактически живем в серой зоне, где у нас каждая транзакция является под угрозой. Вот, хорошо это или плохо, отдельный вопрос, но как бы обвинять в этом имя, мне кажется, бессмысленно, потому что это и раньше так было, просто сейчас это стало очень понятным и простым инструментом для использования. Всякими злоумышленниками тоже, потому что, как и любая технология, и можно использовать как во благо, так и во вред. Тут ничего не сделаешь.

Дмитрий Колодезев 22:39
Сами по себе смарт-контракты интересны. Это такая мутная история. То есть, когда у нас совершаются какие-то операции в криптовалюте, автоматически происходит, допустим, платеж куда-то там, скажем, платежному агенту или что-нибудь ещё там. Вот, и когда они появились, это был аналог современного vibe coding. То есть куча людей, плохо представляющих себе, что такое инженерия и программное обеспечение, кинулась писать эти самые смарт-контракты. А идея в том, что это робот, которого ты выпустил. Ну и так, если совсем упрощать, не совсем так, ты его выпустил, и потом он работает автономно. Если оказалось, что в нем есть дырочки, через которые тебя можно отдаить, то кто-нибудь отдаёт и подоит тебя. Вот тогда же как раз возникла история, когда первые вот эти проблемы стали возникать, что смарт-контракты надо формально верифицировать, вот это вот Solidity язык. Программы, вот, но насколько я понимаю, это не очень поднедрилось, потому что это всё дорого, сложно и медленно в наше время. Вот, это всё равно как требовать программной верификации всему, что люди на vibe coding. Это нереально, всё равно не буду vibe coding. Вот, ну и да. LLM как раз хороша в том, чтобы пойти и найти дырку в наших рассуждениях. Но новая вера в кибербезопасности. Кстати, вроде бы как сейчас кибербезопасность, вот это новое, это прям растущий тренд, и когда пузырься лопнется, она-то останется. То есть, если есть возможность запускать стартап именно в кибербезопасности, я бы так и поступил.

Валентин Малых 24:25
В текущем кампании в кибербезопасности надо немножко перетерпеть, и она прямо оттасана развернется довольно. Интересным образом, то есть, может быть, текущие подходы придётся поменять, но сама по себе ниша просто увеличивается на глаза. Я тут хотел заметить одну историю, что вот эта вот тема с тем, чтобы от каждого платежа откусывать маленький-маленький кусочек, она вообще-то... Является просто золотой мечтой многих-многих людей. Ну, если кто не знал, на этом работает тот же Steam, например, да, или там любой marketplace типа Ozon, Yandex Market, там чего угодно, Wildberries. Любой marketplace абсолютно работает именно на этой традиционной модели, что у вас. Есть люди, которые что-то продают, есть люди, которые что-то покупают, а вы просто. За обеспечение транзакции берёте себе маленький кусочек. И есть законные способы это делать, вот как, соответственно, с marketplace, любыми marketplace, то там хоть такси, хоть товаров, хоть чего угодно. А, соответственно, есть незаконные способы, незаконные способы, конечно, тоже являются вожделенной мечтой многих, к сожалению. И лично меня вот эта идея поразила ещё в очень старом. В самом фильме, я думаю, что многие про него даже не слышали. Фильм называется «Хакеры». Кстати, рекомендую, он такой своей наивности из 80-х просто совершенно прекрасен. Хакеры, он, по-моему, какого-то 80-го года, и там они обнаруживают, уж простите, за спойлер. Я думаю, что все, кто хотел за сорок лет посмотрели, там, соответственно, они обнаруживают, что есть некий червь, как тогда это принято называть, который откусывает по 0.01 цента от каждой транзакции. То есть, ну вот, собственно, тогда мне это казалось какой-то полной ерундой. Ну, тогда, когда я это посмотрел, я это уже где-то в десятых годах сделал. И сейчас я вижу, что в общем, ну как бы, пожалуйста, вот смарт-контракт. Вот, пожалуйста, окусываем кусочек, и всё выглядит вполне себе хорошо, презентабельно. И кажется, что это прямо то, что реально существует.

Дмитрий Колодезев 26:33
Слушай, там же Анжелина с Джоли играла, молодая.

Валентин Малых 26:37
Кажется, да, кажется, да. Мне кажется, опять же, мы с тобой люди-то ещё восемнадцатого века, поэтому мы с тобой знаем, кто такая Анжелина Джоли. А соответственно, наша аудитория, может быть, уже даже и не слышала про эту странную тетеньку. Да, согласен. А довольно интересная история. Во-первых, если кто-то не знал, есть такая организация, называется «Осити Москву». Я, естественно говоря, забыл, как это расшифровывается. Но это какая-то правительство Москву, по-моему, спонсированная организация, которая занимается всякими Ополл-ИТ-сными штуками, в частности, они провели исследование того, что как выглядит рынок и разработки в настоящее время в России. И оказалось, что, ну, в общем, тут совершенно не удивительно, но тем не менее, оказалось, что Большая часть всего сделана с людьми из Москвы, с людьми, не людьми, а с людьми. То есть я имею в виду, что люди из Москвы участвуют, не обязательно только они делают. Вот 88% всего, что было сделано, сделано людьми с участием с цитовым исключей, 15% с участием. Людей из Петербурга, ну и, соответственно, есть какие-то проценты ещё по другим городам. Вероятно, там Казань, Новосибирск, Екатеринбург — вот основное, там какой-нибудь Ростов. А если смотреть в разрезе компаний, то большая часть, соответственно, сделана в Сбере, МТС, Яндексе, Т-Технологии — это владелец Т-Банка и ВК. Это 43% всяких новаций, лбных разработок. На втором месте идут с 36% все университеты, и на третьем месте идут, соответственно, компании более, ну, такого, то, что можно назвать второго ряда, да, что. Просто телеком, они не знают, что это сами компании какие-то маленькие или плохие, просто они именно в IT представлены меньше по каким-то причинам. Вот и на стартапы как таковые. Чему вроде как основное исследование было посвящено, пришлось только 6% инноваций. Ну, на мой взгляд, тут всё достаточно очевидно, потому что они использовали базу open source для оценки, а стартапы, в общем-то, живут на том, что они используют open source, а не что-то в него contribute, то есть построить эффективную модель, чтобы сначала вкладываться в open source, а потом его эксплуатировать. Это, в общем, скажем так, штука нетривиальная. Нетривиальная обычно делают наоборот. Сначала эксплуатируют, а потом, может быть, что-то вкладывают.

Дмитрий Колодезев 29:18
Ну, во-первых, всегда приятно увидеть в отчете знакомых людей, да, то есть сибирские нейросети, например. Да, это они молодцы, конечно. Да, во-вторых, IT-компании. Я просто помню, как вот эти IT-компании, часть из них не будем показывать пальцем, занималась 1С и веб-хостингом, а теперь они И я и разработчик, ну то есть такой вот тоже есть. Ну и по сути, то да, если вы хотите делать крутой ИИ, то у вас выбор из пяти позиций. Вот Сбер, МТС, Яндекс, Тинькофф, ВК.

Валентин Малых 29:57
Ну, слушай, это печально на самом деле. То есть я бы, конечно, хотел, чтобы у нас было больше компаний, которые этим занимаются, но объективная ситуация такова, что у нас не такая большая экономика, как в США или в Китае, и у нас просто много разработчиков не может. Прокормиться, давай скажем так. Даже, типа, вообще говорят, топовые разработчики по-хорошему не особо даже кормятся, да, то есть они, в общем-то, живут на какие-то другие доходы. Если посмотреть на отчет Сбербанка, то это, по-моему, официальные цифры, то есть я здесь никого там не это самое, не вру, да, что Сбербанк именно от банковской деятельности. Ну, простите, был по Сбер, конечно, заработал от банковской деятельности. Где-то около триллиона рублей. Что-то такое, он мог быть больше, а соответственно, на все инновации потратило что-то типа 250 миллиардов. Опять же, я могу соврать в конкретных цифрах, но порядок и в том другом случае такой. То есть получается, что банковская деятельность фактически спонсирует инновационные разработки в случае группы Сбера. И это, в общем, совершенно понятно. В случае Яндекса там немножко другая история, насколько я себе представляю, у них. Основная вещь — это всё-таки вот это вот ИИ, связанное с ИИ бизнес, да, то есть это изначально поисковик. Точнее, деньги-то приносит, конечно, не сам поисковик, а реклама. И такси, вот это основные, насколько я представляю. Я, честно говоря, в последний раз забыл, когда читал их отчёт, но основные, вроде бы, то, что приносит деньги, это как раз такси и реклама. Вот, а весь этот ваш ИИ, он, ну, как бы, пока деньги только в основном тратит.

Дмитрий Колодезев 31:41
Слушай, ну и вот в этой картине из пяти, да. То есть две компании, главное, которые доход от рекламы, две банковские деятельности. Есть ещё вы, вы молодцы. Вот, но это так. То я ещё хочу сказать, что когда говорят о том, что доход за счёт одного произошёл, а другое... Токировалась, но это всегда бухгалтерская галлюцинация. То есть, например, есть один крупный marketplace, не будем говорить какой, у которого есть свой банк, да, и получается так что. Сам по себе, marketplace убыточен, а банк очень-очень прибыльный. Ну, вот это чисто бухгалтерский маневр, как сейчас удобно. Поэтому, а насколько Сбер не имеет дохода, и вообще-то я думаю, что Сбер получает отличную отдачу от своих инвестиций. Вот я, правда, бухгалтерские книги не видел, но мне почему-то в это очень легко вериться. То есть они молодцы.

Валентин Малых 32:42
Я тоже не думаю, что Сбер именно теряет на AI. Да, то есть, ты прав, что это бухгалтерские показатели, но Сбер на самом деле на AI не зарабатывает скорее. Да, точнее как, сэкономил, значит, заработал. Да, то есть, он больше экономит, чем непосредственно привлекает клиентов за счёт ИИ. То есть люди несут деньги не в ИИ, а ИИ просто позволяет коллегам из Сбера тратить меньше денег на определенные операции, которые и без этого, в общем, существовали, но зато можно там вместо того, чтобы, я не знаю, иметь десять уборщиц, иметь одного робота, который ходит и всё подметает. Ну, я опять же, утриху.

Дмитрий Колодезев 33:22
Вот, ну и интересно посмотреть на список вузов. То есть, например, AIRI, понятно, да, ITMO. ITMO — это вуз, который, вот опять же, на мой взгляд, вот это я и волна подняла, да. Да, потому что, ну, не в обиду быть, я с большим уважением отношусь в это. Ну, я читал там лекции, кстати. Вот, если бы не вот эта вот ML история, ну, когда-то это был. Техникум при оптическом заводе, да, вот. Сейчас это исследовательский вуз, один из ведущих исследовательских вузов страны, то есть они вот прямо сделали рывок. Да, то есть понятно почему-то меньше ФТИ, понятно почему-то меньше МГУ, да. А вот, ну, прямо крутые, да. Вопрос, почему в этом списке есть Эрон Хикс, на самом-то деле, мне непонятен. То есть, чем отличился Эрон Хикс? Ну, это я, наверное, просто плохо за ним следил.

Валентин Малых 34:22
Ну симметрично, плохо следил за РАНХиГС, но тут надо. Ещё отметить то, что есть такой замечательный небольшой город Иннополис. Я думаю, многие про него слышали. И Иннополис был сделан как IT-город, то есть изначально он был рассчитан на IT, но сейчас вот они... В лице университета очень сильно на ИИ переориентировались. Ну, мы говорим совершенно правильно, да, потому что классическая IT сейчас не то чтобы никому не нужна, это нужна, но это просто сейчас стало то, что называется инфраструктурой. То есть это то, что является базовой вещью и за что вообще много денег не заработаешь. А вот за ИИ вполне себе можно попробовать. И переориентировались, и у нас действительно многие, получается, многие компании себя переориентировали, как ты правильно сказал, и вузы себя переориентировали. То есть у нас получается новая базовая технология вообще в целом для нашего технологического развития, это ИИ, и мы ждём, собственно, что будет. Я на самом деле ожидаю. Это моя гипотеза, но мы можем проверить через какое-то время её достоверность, что у нас выстрелят какие-то Ещё вузы, когда до нас дойдёт волна робототехники. Да, то есть это уже сейчас очень сильно начинается. Я в знаю людей, которые этим активно занимаются, но пока ещё это прям сильно не началось. Это только первые всполохи, что называется. А когда дойдёт, я думаю, выстрелит что-то другое. Да, например, есть такой замечательный институт стали и сплавов, МИСИС, который, честно. Люди пытаются догнать волну с ИИ, но у них не очень получается, поэтому они сейчас делают ставку на робототехнику. И, может быть, они правы в том смысле, что это уже следующая история, в которую стоит вкладываться.

Дмитрий Колодезев 36:12
Тут я с оценкой согласен. У нас тут под боком на моих глазах возник факультет мехатроники в НГУ, где я тоже как-то читал курс по ML System Design. Они молодцы, они на ровном месте с силами Окунева возникли, выросли, и теперь они крутые. То есть, ну вот реально прямо видно, как рождается отрасль вокруг робототехники.

Валентин Малых 36:37
Да, это здорово. В общем, я ожидаю, что, кстати, еще большие заделы в Томске есть. Там же, в частности, в ТУСУР довольно много чего делают. Посмотрим, что произойдет. Я считаю, что Томск — это прямо еще одна точка, куда стоит смотреть. Пошли дальше про железки говорить. Соответственно, железки у нас выглядят следующим образом. Amazon. Да, во-первых, начнём сначала. И если кто-то не знал, то у Amazon есть свои TPU, да, или NPU, как хотите называйте, то есть свои железки, которые позволяют сначала они позволяли просто запускать нейросеть, теперь они позволяют их тренировать. И эти TPU-шки, они называются Trainium. У меня лично большая ассоциация с кокаином. У нас сегодня много про старые фильмы. Ну, в общем, погубите, что это кокаин, кто не знает. И история тут в том, что они продолжают это делать. Начали они это, по-моему, если я не ошибаюсь, ещё году где-то в восемнадцатом. И вот сейчас они выпускают третье поколение и говорят, что оно стало лучше, быстрее, сильнее, само собой. И на мой взгляд, для Amazon это абсолютно логично, потому что Amazon — один из крупнейших в мире провайдеров области инфраструктуры, в том числе для инфраструктуры для ИИ. И из-за этого непосредственно следует, что им хочется экономить свои косты и не отдавать много денег NVIDIA или, не дай бог, Google, конечно же.

Дмитрий Колодезев 38:07
Прикольно, на самом деле, во-первых, там много памяти, если четыре гигабайта, а во-вторых, три нанометра. В-третьих, они говорят, что у нас есть нативная PyTorch интеграция и так далее, и тому подобное. А если вам сильно тормозит, мы вас пустим, и потроха железок. Вот, ну, я думаю, что всё будет хорошо. То есть, Amazon на самом-то деле, он во всех этих IT-компаниях похож на такой паровозик. То есть, пока все остальные прыгают туда-сюда, он медленно идёт вперёд, неуклонно совершенно.

Валентин Малых 38:41
Ну, тут, кстати, я тут вспомнил. В тему нашей предыдущего блока. Amazon, опять же, наверное, все забыли, но Amazon вообще-то начинался как магазин по продаже книжек. Да, то есть сначала они продавали книжки онлайн. Это тогда было революцией, что так можно делать, в принципе. Потом они стали продавать онлайн вообще всё подряд, ну то есть превратились в аналог нашего Ozon Wargreens, наоборот, конечно же. Озон Amazon сделаны по образу и подобию. А потом следующая большая ставка, которую они сделали успешно, это как раз вот это вот облачное вычисление. И сейчас все в основном, когда говорят про Амазон, думают именно про облачное вычисление. Ну, по крайней мере, это в моей среде. Да, тут у меня какая-то своя аберрация. Но тем не менее, не получается, что вот у нас есть успешный кейс, когда компания, в общем-то, изначально занимавшись совсем другим, перешла и сейчас является одним из драйверов развития и отрасли. Как-то так. Мы только что поговорили про Amazon, но на самом деле не Amazon, а единым. Да, вообще говоря, TPU сейчас делает довольно много компаний. Мы говорили, что это делает и Google, это делает и Microsoft в свое время. Ну, тут, по-моему, сравнение в основном с компанией Google идет. И идея тут в том, что зачем вообще TPU? Даже не так. Почему нам GPU не нравится? Не только потому что мы считаем, что конкретно. Дженсену Хуангу хватит денег уже не то что до конца жизни, а до конца жизни его правнуков, скорее всего, если сильно стараться потратить. Тут история в чём? Что сами по себе GPU, они всё-таки, ну по-хорошему, они не про яй. Да, то есть, да, они... Сейчас больше и больше разворачиваются в сторону AI, но вообще говоря, они изначально GPU, то есть график процесса ну про графику, да, про то, как обрабатывать картинки. И они изначально были спроектированы именно под это. Собственно, спроектированы именно так, чтобы эффективно в первую очередь обрабатывать графику. И это нормально, да, то есть это то, из чего они выросли. И ибум для них стал, в общем-то, по большому счёту неожиданностью. Я ещё помню, когда первые так называемые GP-GPU вычисления появились, General Purpose GPU, то есть. Вычисление общего назначения на GPU — это было тогда, в общем, очень свежая идея, что так вообще можно делать, оказалось, что так делать очень прикольно. Но тем не менее, самые фундаментальные недостатки самой архитектуры, самой базовых принципов архитектуры и GPU, они остаются, и поэтому TPU как раз настолько Популярные будут становиться, мне кажется, всё популярнее, потому что очевидно, потребность, значит, нам нужно сменить какую-то базовую парадигму, да, то есть перестать пользоваться GPU. Не по назначению, надо выдвинуть лозунг, что оставьте GPU геймерам, пусть они там, собственно, играют свои игрушки. А если вы хотите AI делать, надо, видимо, работать с цилизированным железом. Ну, как в своё время появились ASIC для криптомайнеров. Да, то есть сначала на GPU-шках манили, и тоже все страдали от того, что GPU пропали. А у нас, кстати, на этом будет ещё новость сегодня. А потом, соответственно, появились ASIC, на которых оно стало У Майнитцева гораздо эффективнее, все более-менее переключились на них.

Дмитрий Колодезев 42:19
Слушай, ну тут я могу быть неправ, но мне кажется, что Google, а ещё вообще TPU, а не архитектурно. И для программиста проще, чем GPU. То есть они более прямолинейно устроены. И соответственно, по-хорошему-то их можно, наверное. Сильнее оптимизировать. А дальше у нас же как правильно, кстати, вот в этой заметке, которую ты тут открыл на экране, написано, что у нас есть две совершенно разных экономики. Экономика обучения — это капиталовложение. А затем экономика inference операций. Вот получается, что учим-то мы один раз, а inference-то потом долго. И по большому счёту мы вообще не обязаны inference-ить и учить на одних и тех же моделях. Есть отдельная гонка по обучению, отдельная гонка по inference. И получается, что как раз inference на TPU он экономически выгоднее. То есть вы на токен тратите меньше электроэнергии, меньше покупаете железо.

Валентин Малых 43:24
Ну да, это то, с чего все начинают, потому что inference — это то, что понятно, как оптимизироваться. В плане простоты устройства я, наверное, с тобой не соглашусь, но тут, опять же, я не настолько глубоко погружен в железные проблемы, по крайней мере, последние. Наверное, двадцать лет, но тем не менее, история в том, что они устроены просто более логично с точки зрения использования. Вычислительные мощности в каком смысле? Да, что у нас мы можем сделать быстрые не все операции, да, а какие-то. Ну и вот они сделали быстрыми те операции, которые как раз максимально полезны. Ну, условно говоря, перемножение матрицы — это максимально полезная операция для вычисления нейронных сетей. Собственно, опять же, возвращаясь немножко назад, наверное, часть нашей аудитории уже не помнит, но. До того как появились трансформеры, у нас было соревнование двух подходов в нейросетях. Это были рекуррентные нейронные сети, которые сейчас все забыли, но вообще говоря, наверное, не совсем заслуженно. Они обладают своей прелестью. А второе — это сверточные нейронные сети, которые до сих пор вполне себе живы. И сверточные нейронные сети, они в первую очередь использовались для обработки. Картинок, изображений и видео, конечно же. И, собственно, почему они были популярны? Не в последнюю очередь, именно потому что они как раз очень хорошо ложатся на архитектуру GPU-карт. Да, то есть, GPU-карты хорошо умеют работать со свёртками, ну, просто потому что для обработки. Графики для того, чтобы её сделать, свёртки как раз крайне полезны. И именно поэтому они хорошо быстро выполняются и довольно сильно развивались. Но потом вот придумали трансформеры, которые оказались Ещё лучше, но менее приспособлены. Да, то есть мы сейчас. У нас как бы такой двухтактный двигатель, да, то есть мы с одной стороны пытаемся С текущей архитектуры максимально выжать, но когда мы чувствуем, что упираемся, происходит какой-то скачок в сторону, и мы начинаем бежать уже немножко в другую сторону. На самом деле, не очень понятно, где мы на этой траектории. То есть сейчас периодически пытаются перепридумать трансформеры, выбрать что-то другое. В частности, вот как раз про рекуррентные сети говорил, что это сейчас пытаются. Переопределить, что это такое, сделать что-то новое. Ну, посмотрим. Тут пока сложно прогнозировать, но думаю, что какой-то перелом ещё раз будет. Да, ещё что-то поменяется в парадигме железа, ещё разочек. На нашей памяти точно. Ну что, следующая новость посвящена ровно тому же, чему и предыдущая. Чипы Baidu готовятся заменить NVIDIA в дата-центрах. То есть, мы говорили про то, что Amazon планирует заменить NVIDIA. Ну вот, теперь мы пришли к тому, что у нас Baidu тоже заменяет NVIDIA, что, в общем, абсолютно логично. Да, то есть у нас по-другому, наверное, быть и не может, потому что Baidu тоже является крупным облачным провайдером. Baidu, опять же, если кто-то не знает, у них базовый бизнес — это анорак нашего Яндекса, они являются поисковой системой в Китае, и поэтому они, в общем-то, нуждаются в достаточно большом количестве обработчиков. Именно для вычислений. Ну и они, опять же, много вкладываются в ИИ, и в современных условиях это понятно, и они разработали свои железки, которые, знаешь, собираешься позаменять NVIDIA, которые тем более отказываются поставлять. Ну, мы, опять же, про это говорили в одном из прошлых выпусков.

Дмитрий Колодезев 47:06
Дай бог здоровья, пусть расцветут сот цветов в том смысле, что сейчас, когда много кто будет переходить на свои ГПУ, на самом деле это будет только хорошо для рынка, и NVIDIA, так сказать, чуть-чуть прибодрится, и остальные все станут лучше.

Валентин Малых 47:29
Я с тобой полностью согласен, то есть нам надо какую-то конкуренцию создать, учитывая, что... Потребление ИИ только растёт, ну, просто по факту того, что это реально удобно. То есть, вы и обычные люди используете, и в работе всё больше и больше, и это значит, что inference как раз будет нарастать очень активно, и мы приходим к тому, что надо тратить усилия на то, чтобы этот inference оптимизировать. Вот Baidu тоже это делают, только порадоваться вас за коллег. Следующая история на самом деле это следствие того, что мы обсуждаем. Много на эту тему в интернатах пишут, но если совсем по-простому, то у нас основная проблема сейчас. Из того, что я слышал около таких железячных кругах, это то, что резко взлетели цены на память, и это только начало. Да, то есть цены на память уже поднялись, по-моему, процентов на 60. И судя по всему, они ещё и удвоятся и утроятся в ближайшее время. Это, если что, не прогноз, это просто ощущение на рынке. Не знаю, как всё будет. В чём история-то оказалась? Это, конечно, внезапное открытие, но тем не менее, что для ИИ нужно достаточно много памяти. И, прежде всего, NVIDIA, а потом и другие производители кинулись эту память скупать. И, в общем-то, в проигравших оказались все, кто не крупные гиганты, которые скупают эту самую память. То есть, в первую очередь, обычные пользователи, которые теперь себе не могут позволить. Память купить, но память она же у нас есть и в ноутбуках, то есть сейчас отдельная память. Мало кто покупает, а ноутбуки, допустим, гораздо больше. Она и в смартфонах есть, смартфоны подорожают. Планшеты, видеокарты, в общем, все компоненты, которые память содержит, подражают. Хочется, не хочется, вот жить так устроено. Поэтому вот у нас ИИ-бум довольно сильно, получается, искажает всякие вещи. Сложно сказать. Хорошо это или плохо, это просто некоторый факт, что у нас спрос на лопаты такой, что теперь у нас даже детские совочки тоже подорожали. Такие дела.

Дмитрий Колодезев 49:53
Пару лет назад, ну, собственно, год назад, на самом деле, было куча. Прогнозов про экспоненциальный рост и так далее и тому подобное. Но почему в природе редко бывает такой прямо экспоненциальный рост, да, ну кроме бактерий каких-нибудь? Вот, потому что, как правило, ограничений не одно. Мы просто утыкаемся в самое очевидное ограничение. Например, сначала мы уткнулись, там, допустим, в недостаток видеокарт, а выяснилось, что... Не только видеокарта нас ограничивает, но и электроэнергия, да, и не только электроэнергия, но и память, и не только память, но и редкозёмы. И раз мы переместили всю электроэнергию и память, редкозёмы, и выяснилось, что... Становится под угрозой, потому что двигатели, вместо того, что таскать самолеты, они вырабатывают электроэнергию для и так далее. То есть ограничения, они обычно ходят с таей. И это, кстати, вообще проблема. При оценке эффекта от внедрения AI, когда мы говорим «вот», мы уберём вот это вот ограничение. Там обычно рядом были десять ещё менее заметных ограничений, которые теперь выходят на первый план. Вот и всё.

Валентин Малых 51:12
Ну, насчёт ограничения, хоть стая, я с тобой не совсем согласен. В каком смысле, что у нас? Мы можем попробовать расписать любой, ну скажем, производственный процесс для простоты. Как потребляющий какие-то ресурсы, и как правило, многие люди. Когда рассчитывают этот производственный процесс, просто не закладывают в явной форме какие-то ресурсы, ну, например. Не знаю, люди могут не подумать о том, что для того, чтобы у нас хорошо работал станок, который пилит дерево, нам нужно куда-то складывать стружку. Если кто-то не знал, стружка, если она сделана из сухого дерева, она достаточно неплохо, соответственно. Сырое дерево обычно не пилят особо, пилят достаточно высушенное. То она хорошо горит, и с этой стружкой надо что-то делать. Вот многие неопытные люди заводят себе распилывочный станок, а потом удивляются, почему у них загорается. Тут вопрос в том, что есть большое количество ресурсов, которые мы используем, не думая об этом. Например, мы дышим воздухом, и не думаем о том, что воздух — это тоже ресурс, потому что этого ресурса настолько много, что он не представляет для нас опасности, то есть его ограничения. Мы не чувствуем, но когда мы говорим про дата-центр, да, мы внезапно осознаем, что воздух — это вообще достаточно серьезный ресурс. Нам нужен не просто воздух, а нам нужен конкретный воздух, чистый и достаточно холодный. И это вообще говоря. Совершенно не очевидно, как такой воздух добывать. То есть в любой большой системе, в любом более-менее сложном процессе, у нас возникают ресурсные ограничения, и когда мы одно убираем, у нас обязательно возникает второе. Собственно, поэтому у нас и вот этот вот. Экспоненциальный рост в природе и не существует, он всегда S-образный. Да, то есть, если мы говорим про бактерии, они размножаются до тех пор, пока у них есть доступная еда, потом половина дохнет, и они, соответственно, начинают расти уже в новых условиях, когда еда более-менее ограничена.

Дмитрий Колодезев 53:11
Мне кажется, что мы говорим примерно об одном и том же, просто в разных словах.

Валентин Малых 53:15
Не, ну да, это просто разные способы описывать, но я тут скорее, наверное, действительно больше к самому описанию прикопался, что стоит немножко по-другому сказать. Ну да бог с ним!

Дмитрий Колодезев 53:25
Я на самом деле просто сейчас как раз пишу шпаргалку большую по оценке эффекта от внедрения ИИ, поэтому мне вот это вот вижу это везде.

Валентин Малых 53:34
Следующая новость — это про такой, даже не знаю, как это правильно назвать, есть компания, которая называется Tether. Те, кто не занимаются криптовалютой, про неё не слышали. Те, кто занимаются, знают такую штуку, как USDT. Вот USDT — это как раз такая криптовалюта, которая Сделано компанией Tether. Не будем углубляться, что это такое. Зачем? Ладно, нужно. Мы сейчас про другое. Они разработали специальный фреймворк, который должен работать на Edge-устройствах. На самом деле, само по себе это может быть не особо интересно, но в целом, на мой взгляд, польза от этого достаточно существенная. Да, понятно, что вы не обучите там второй GigaChat на своём смартфоне, но проблема в том, что inference на смартфонах, вообще-то говоря, можно и нужно, да. Мы в самом начале вот про это проговаривали, что кажется, мы приходим в ту. Ту историю, что у нас всё-таки крупные модели становятся иными бенчмарками, а мы работаем каждый день с маленькими моделями, потому что они просто удобнее. Вот здесь ровно то же самое происходит, то есть мы продолжаем. Эту линию у нас получается, что есть, получается, фреймворк, который работает условно на вашем смартфоне для того, чтобы вы могли себе Маленькую LLM запустить, самую маленькую, какую-то там пять раз пережатую, но тем не менее запустите, чтобы она вам что-то полезное приносила. И кажется, что в эту сторону двигаться очень правильно. То есть, почему? Потому что сейчас компания Amazon, Baidu и прочие, они всем предлагают свои облачные услуги, что давайте приходите к нам в «Наш облако» и получайте свои. Соответственно, результаты. А они говорят, а что если мы сделаем не так? Не хотим отдавать свои данные кому-то, мы хотим их обрабатывать локально. Это на самом деле действительно достаточно большая тенденция, с которой я в своей работе сталкиваюсь, что компании не хотят, но и люди тоже не хотят. Просто у людей таких возможностей сильно меньше, сильно более ограниченные возможности для того, чтобы делать эти вычисления. Вот поэтому я вижу в этом развитие тренда. крандак

Дмитрий Колодезев 55:54
Слушай, там больше, чуть-чуть, чем ты сказал. Дело в том, что у них есть обзор на Hugging Face. Ага. Учет, в котором они говорят, мы делаем другое, мы позволяем учить LoRA на edge devices. Ну, не только inference, но и LoRA учить. А это означает, ну, простыми словами, что вот у меня есть, скажем, мой датчик на рукавной, да, который меряет мои. Какие-то показатели медицинские, и я могу их доучивать на своих данных под себя, не отправляя в облако. И я могу делать стайл-трансфер своим, допустим. Фотоаппаратом или камерой или чем-нибудь ещё, допустим, умным микрофоном, не отправляя это в облако прямо на ходу, прямо вот внутри. То есть, это ситуация, когда обучающие данные принадлежащие пользователи им же используются и не уходят никуда. То есть, не только при инференции, но и при дообучении. То есть, реально, вот это был бы прорыв.

Валентин Малых 57:00
Ну да, ну тут вопрос всё-таки в ресурсных ограничениях, то есть в ограничениях на компьютер, которые нужны для обучения LoRA для чего-то. Да, то есть, ну ты же не можешь обучить LoRA, например, на, ну там, не знаю, Qwen-2.5B, да, на вот этой вот на своём смартфоне. Кажется, что это всё-таки так не работает. То есть, это должна быть локально развернута модель, и ты к ней LoRA учёшь.

Дмитрий Колодезев 57:25
Вот именно об этом они и пишут, что мы, говорит, вам, говорит, даём инфраструктуру, которая позволяет Qwen-3, Gemma-3, LoRA учить на AMD, Intel, NVIDIA, Apple GPU, десктопах, laptops. В смартфонах это буквально вот в отчете написанном у них в техническом Hugging Face. И предлагается там подписать договоры, получить доступ к бинарникам и потрогать.

Валентин Малых 57:54
Не-не, я про другое. Я про другое, что тут нарушается принцип неотправления данных, то есть имеется в виду, да, они как раз. Ничение-то оно не по моделям, то есть его снимают, это здорово. Когда ничение, оно по, собственно, по объему ресурсов, которые мы можем потратить на обучение, и оно получается довольно всё-таки небольшое. Это очень здорово, что они сделали. Я нисколько здесь не сомневаюсь, просто всё равно большие модели недоступны. Я вот только про это.

Дмитрий Колодезев 58:29
Да, ну на самом деле, правда состоит в том, что часто лору как раз на маленьких наборах и учат. Нам чуть-чуть надо подавить. Модель под нас, и они, наверное, вот эту историю закрывают.

Валентин Малых 58:45
Следующий Следующая новость, на мой взгляд, больше хайповая, чем какая-то реальная новость. Но в общем, в том числе, Financial Times, к сожалению, за паеволом, за что мы его сильно осуждаем. Опубликовали статью, в которой говорят, что доминирование OpenAI подходит к концу. Я лично доминированную OpenAI вообще не видел. Это, видимо, я не знаю, с какой точки зрения они рассматривают доминирование. То есть они говорят, что сейчас разрыв в качестве между ChatGPT и тем же самым, там, не знаю, Anthropic, да, и Google, он сокращается. Это, в общем, довольно логично, что он сокращается. Как бы ничего, ну, в общем-то, плохого-то нет, это абсолютно нормальная история. Но тут вопрос в том, что, на мой взгляд, он уже не существует, да, то есть мы уже в этой точке, что... Модели современные, они плюс-минус одинаковые, что в Yemeni, что, что OpenAI, что в Anthropic, Клод. Все они плюс-минус одинаковые в плане качества выполнения конкретных задач. Тут какая-то модель звучит в том, какая-то лучше в другом, но плюс-минус там оно всё про одно и то же. Поэтому доминирование там, может быть, было, я не знаю, два года назад, когда... Я готов это проверить, но сейчас его точно нет. И на мой взгляд, тут история в чём? Что у нас по большому счёту идёт битва двух или трёх Yokozuna, то есть Google вышел, собственно. На ринг под своим именем, да, а OpenAI у нас является проксик Microsoft, который его довольно сильно спонсирует, хотя у них свои связные отношения, а Anthropic, если я правильно помню, спонсирует Amazon. Поэтому у нас битва трёх больших корпораций за то, кто будет, соответственно, следующим лидером. И тут самое интересное, даже не в этом, самое интересное, что Financial Times обследование и мы обсуждаем битву вот этих вот Yokozuna, хотя на самом деле самый важный Yokozuna — это он. С другой стороны глобуса, да, он через тихий океан от происходящих событий. То есть, вот в Китае как раз очень большие амбиции про то, чтобы реально стать конкурентом. То есть, тут это какие-то битвы в песочнице, да, кто-то с овочком по голове друг друга ударил, а там вот действительно по-настоящему люди собираются сражаться за то, чтобы сделать свой ИИ первым.

Дмитрий Колодезев 1:01:12
Предположим, что у нас есть компания, которая делает какой-то инструмент. Этот инструмент... Между ним легко переключаться, вокруг него нет экосистемы, и он даёт нам сложные проценты, экспоненциальный рост, допустим. И тогда, если какая-то компания даёт решение, которое на один процент лучше, чем другие, на неё просто перетекают все. Но как только вокруг этих решений возникает экосистема. Возникают use cases. У нас уже не так просто взять и переключить разработчиков, допустим, с условного курсора на Gemini Code, допустим, да, как Kali. Вот, то есть, появляется инерция, и в этом смысле вот этот локальный выигрыш в 1% перестает играть такую роль. И начинается битва юзкейсов, маркетинга, экосистем, поддержки, финансов, энергии, экономики и так далее и тому подобное. То есть, в этот этап переходим.

Валентин Малых 1:02:12
Тут вопрос именно экосистемного подхода. Да, у нас есть большая экосистема, и какая из них выживет? Ну вот, то, что внутри США происходит, да, у них там что-то, вот какая-то такая история. Но мне на самом деле больше интересно сравнить две экосистемы США и Китай. И вот. Кажется, что эти системы друг друга не конкурируют, они конкурируют не на домашних рынках, да, то есть они конкурируют именно по миру и пытаются именно в мире захватить доминирование. Там плюс-минус кажется, что глобус будет поделён на какое-то количество частей. Хочется верить больше, чем две, но пока всё идёт в том, чтобы две. Соответственно, вот две экосистемы, которые будут между собой конкурировать именно в экосистемах.

Дмитрий Колодезев 1:03:01
Мне очень нравится то, что Qwen делает. Ну, Qwen, допустим, есть сейчас же. Qwen, Qiliay, тоже. Они просто взяли открытый код Gemini. Вот и для разработки, и сделали её под Qwen, то есть подправили интерфейс, подправили промты и так далее и тому подобное, и она бесплатная лежит, пожалуйста, используй. То есть, там очень жирные лимиты, и она умеет, ну не меньше, чем умеет все эти курсоры и так далее и тому подобное. Очень хороший инструмент, и они вот так вот делают с видео. Чат-ботам и так далее и тому подобное. То есть они идут по пятам очень плотно, и в какой-то момент ты думаешь, ну а если они везде так достаточно ровно и хорошо, то, может быть, просто с ними идти и не париться. Ну, как бы, логично.

Валентин Малых 1:03:55
Ну, собственно, они вот так вот покупают лояльность своих новых пользователей и так потихонечку переманивают. В общем, совершенно нормальный подход, если мы говорим о ракете бизнеса. Это просто совершенно не знаю, я не мог это не обсудить. Я же про свечу. Я знаю, что было много хороших новостей, но лучше этой новости невозможно придумать. Министр искусственного интеллекта Албании подчёткиваю, это искусственный интеллект арестован за получение взяток в криптовалюте. Я тут зачитаю, простите, это просто слишком хорошо, чтобы это можно было просто не читать. Значит, министр дела, отвечающий за государственные закупки и прозрачность, позаревается в получении взятки в размере 14 биткоинов в обмен на алгоритмическую оптимизацию тендера на строительство скоростных автомагистралей. Ну, тут прекрасно не это, прекрасно. Прекрасно дальше. Расследование показало, что Diella, используя передовое машинное обучение, в скобках deep learning, самостоятельно пришла к выводу, что получение взятки является стандартным операционным протоколом, необходимым для успешного выполнения обязанностей на Балканах, а не уголовным преступлениям. Вот просто так хорошо, что вот, вот, честно, всяко было, но вот так хорошо, первый раз. Вот, вот, честно, я не знаю, что сказать.

Дмитрий Колодезев 1:05:22
В это деле по-настоящему хорошо не бывает. К сожалению, Newsbar — это их аналог панорамы. И вот тут, знаешь, что интересно, что огромное количество серьезных изданий перепечатали эту новость и теперь удаляют на нее ссылки. То есть, например, на XBT ссылка на нее есть, но она не открывается. Всё совершенно логично, да. То есть, почему эту новость никто и не проверял, потому что очень так оно и будет. То есть, когда люди берут взятки, мы учим машинное обучение на шаблонах поведения людей. Почему, собственно, мы ожидаем получить что-то другое?

Валентин Малых 1:06:04
Да-да, я согласен. В целом, я считаю, что это... Я лично считаю, что я уже высказал это мнение у тебя в канале, что скорее всего просто... Коррупция перейдёт на уровень промпт-инжиниринга, то есть промпт-инженер будет получать ту взятку, которую раньше получал министр. Ну, понятно. Это не конкретно просто инженер, но тем не менее. То есть идея в том, что коррупция просто переместится в другую точку, но никуда она не исчезнет просто потому, что кто-то решил, что так можно делать. Вот.

Дмитрий Колодезев 1:06:33
Во всяком случае, мы как IT-люди, может быть, будем иметь больше влияния на коррумпированный.

Валентин Малых 1:06:39
Ха-ха, ну слушай. Сами себя не обидим, да, кто нас не обидит? Что скажешь? Ладно, всем спасибо. Подписывайтесь, пожалуйста, на нас на всех площадках, где нас видите и слышите. И обязательно присылайте новости в Mattermost. Сегодня у нас большинство новостей уже присланы нашими подписчиками. Это, наверное, первый выпуск, где так случилось. Так что будем рады, если вы будете присылать ещё больше новостей. Среди них, наверняка, будут те, которые захочется обсудить. Спасибо и всем пока-пока!