Капитанский мостик - 6 | Дмитрий Колодезев

10.08.2025
13.08.2025
подкасты

Записали с Валентином Малых шестой выпуск подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. В этот раз с нами снова Алексей Натекин.

Площадки

Содержание

00:00:00 вступление
00:00:46 школьники победили в олимпиаде по ИИ
00:08:53 официально вышла GPT5
00:17:43 открытые модели от OpenAI
00:21:46 OpenAI строит ЦОД в Норвегии
00:24:24 Tesla закрыла свой суперкомпьютер
00:29:04 генератор видео Genie 3 от DeepMind
00:32:15 генератор видео Krea
00:41:24 Qwen-Image 3
00:47:18 генератор веб-приложений Dyad
00:55:03 никогда не верьте ИИ
01:02:30 Palantir и контракт на $10 млрд.
01:09:13 шины против беспилотников
01:13:39 забег роботов в Казани
01:18:26 в Сингапуре делают тараканов-киборгов
01:21:06 в Иллинойсе запретили ИИ-психологов

Ссылки

Валентин Малых 0:00
Всем привет! Меня зовут Валентин Малых, и со мной, как всегда, Дима Колодезев, а также Леша Натёкин. Мы сегодня делаем очередной выпуск подкаста «Капитанский мостик». И давайте, что кто хочет сказать, Дима, ты давай.

Дмитрий Колодезев 0:17
Ну, всем привет и подписывайтесь в Матромост. Наш я всё никак не доделаю наши подкасты, блин, я честное слово пододелаю их.

Алексей Натёкин 0:26
Ну, а я просто всех приглашаю активнее кидать ссылочки на новости. Вот там же в Mattermost. И я думаю, пора переходить, потому что на этой неделе вышел Slack.

Валентин Малых 0:46
Первая новость, которую я в последний момент добавил, на самом деле, это новость про наших российских школьников. Просто буквально вчера команда наша прилетела из Китая, и соответственно, наши Школьники победили в неофициальном командном зачете. Как всегда, на всех олимпиадах нет официального командного зачета, но есть неофициальный командный зачет. Вот в неофициальном командном зачете наши школьники стали первыми. Шесть золотых медалей, одна серебряная, одна бронзовая. В абсолютном зачете победил какой-то поляк, по-моему, внезапно, но все равно поляк тоже молодец. Что, кто хочет прокомментировать? Леш, давай ты. Меня звали, но я честно, я вот каждый раз, когда у меня зовут взаимодействуют со школьниками, у меня всё падает. Я как-то вот, ну не моя эта история совершенно, никак.

Дмитрий Колодезев 1:41
Слушай, а это же Brazhnik, да, участвовал в этом всё.

Валентин Малых 1:44
Brazhnik, не знаю, кто это, честно говоря. Там участвовал Vitya Kantor, там участвовал Sasha Gushchin из наших. Кто ещё? Люди из Центрального университета, из Huawei, из МТС. Ну, там много кто, на самом деле, приложил свою руку. Вот, как-то так.

Дмитрий Колодезев 2:03
Ну, прикольно. На самом деле интересно, насколько олимпиадный уровень бьется с уровнем среднешкольным, таким, как бы, условно.

Валентин Малых 2:15
Вот да, на самом деле для меня это как раз и есть ключевой момент, что на мой взгляд само по себе Олимпиады — это неплохо. И вообще говоря, проводить Олимпиады ничего в этом принципиально плохого нет, но на мой взгляд гораздо важнее, что... Медиана, нежели максимум. Да, то есть, нас интересует, как обычный, условно говоря, школьник взаимодействует с ИИ, да, насколько он, соответственно, умеет что-то по ИИ делать. И вот это, на мой взгляд, гораздо важнее, чем отдельные высокие результаты.

Алексей Натёкин 2:51
Я могу только присоединиться к поздравлениям. Это не в первый год. Они затаскивают большое количество медалей. Это немного другая Олимпиада по сравнению с теми, в которые вывлечены мы, которые НТОшные. Вот, но это международная история, поэтому классно, большие молодцы, пускай дальше готовят. Вот, но проблема с между максимум медианой, ну и соответственно. Среднее оно как бы из призеров растёт, но с медианой, да, есть нюанс.

Дмитрий Колодезев 3:32
Ну, тут можно вспомнить про футбол. В некоторых странах дети играют в футбол, и это подогревается тем, что их сборная всех рвут, да, какие-нибудь. Вот, а в некоторых кто-то играет в футбол, а дети вообще в футбол не играют, потому что, во-первых, негде, во-вторых, неохота, и, в-третьих, есть поинтересные дела. То есть, как бы, вот хорошо бы, если математика шла по первому пути, а не по второму.

Валентин Малых 4:02
Ну да, ну вот, допустим, наши знаменитые бразильцы, которые чемпионы по футболу, там туда-сюда. Они, Джо, почему чемпионы? Они чемпионы, потому что там, условно говоря, в каждом дворе есть по площадке, и народ рубится именно в этот самый футбол, насколько я себе представляю. Да, и именно из-за этого, да, то есть у нас есть там миллионы людей. Бразилия, кстати, большая страна, если кто-то не знает, если я ничего не путаю, по триста миллионов человек, это реально большая. И, соответственно, из этих людей есть некоторое количество прям очень талантливых, но при этом все умеют играть в футбол, да. И это, в общем, нормально. То же самое там в другую сторону. Да, вот, например, всем известные таланты наших. Близких нам географических грузин, которые много людей из них хорошо поют. А почему? Потому что все поют. Да, вот язык музыкальный, все поют, и из них прямо получаются хорошие певцы. Я вот именно про то, что было бы прикольно, если бы у нас это было именно каким-то всенародным увлечением, потому что и сейчас какая-то базовая технология, да, и поэтому если все будут немножко Заниматься ИИ, но у нас будут прям суперклассные какие-то специалисты по ИИ.

Дмитрий Колодезев 5:22
Слушай, ну, допустим, шахматы в своё время, русские шахматы, они строились на основе кружков в игре в парки и школы. Да, школа проваливает, и да, в парках вы и не поиграешь. Вот, но с кружками ну, вот единственное, что Лёша что-то делает, может быть, ну мало кто.

Валентин Малых 5:44
Ну, у нас сейчас интернет есть, то есть в интернете что-то по ИИ делать можно. Тут я к тому, что может быть, мы лично втроём такое не поднимем, но вроде сейчас какие-то ресурсы в это вкладываются. Посмотрим, может быть, будут какие-то подвижки в эту сторону.

Дмитрий Колодезев 6:00
Слушай, ну у меня постоянно в эту тему движуха идёт совершенно безвозмездная. И я участвую, допустим, введу стадии групп по LM engineering. То есть, вот время от времени беру людей и тыщу их куда-нибудь. Вот, ну то есть, если каждый в отрасли будет этим заниматься, то ну, в общем, да, всех по району.

Валентин Малых 6:23
Ну да, как говорил Блаженный Августин, спасись сам, а вокруг тебя спасутся тысячи. Так что, в общем, как-то так.

Алексей Натёкин 6:31
В целом, сейчас возможностей заниматься локально и становится попроще, когда дойдём до серии новостей про выход разных новых open-source моделек. Я в список ещё парочку не добавил, но это парочка, про которых можно просто сказать. Да, и ничего показывать не надо. Очень просто. От Tencent вышел Hunyuan на 0.5 млрд. Которая предполагается, что будет вообще работать на CPU, то есть даже GPU не надо, и, соответственно, можно очень сильно расширить количество тех, кто могут с этим играться на своём железе. И третий Qwen 4B версия. 4B тоже влезает плюс-минус куда угодно.

Валентин Малых 7:28
Интересно, что он сначала, соответственно, был 3B, а потом 4B. Был сначала 1B, а потом 1.5B. Ну и они вот так потихонечку растут, по чуть-чуть.

Алексей Натёкин 7:39
Ну да, но это к тому, что в теории можно собрать шаблончик, такой boilerplate, для вашего локального ИИ-кружка. И соображение того, что может быть, будут самоорганизовываться. Ну, всё равно у любого кружка должен быть как минимум один заряженный лидер. Дать, скажем так, заготовку того, с чем играться, куда играться, и стандартные пэт-проекты на самоизучение, это, ну, может закрыть недоделки того, что, ну, школы что-то пытаются, ну, пытаются. А интернет есть, интернет есть, а кружков и сообществ нет. Но это скорее особенности текущего времени, что Web 3.0 стал не таким, как его представляли пять лет назад.

Валентин Малых 8:31
Ну, это всегда так. Мне никогда не получается прям сто процентов что-то предположить. Если помним, то, соответственно, Жюль Верн говорил, что у нас будут такие замечательные подводные корабли и всякое такое. Герберта Уэллса с его треножниками. Тепловые лучи — это же лазеры, но не совсем тепловые лучи, но всё-таки. Ну, нельзя пройти мимо слона в комнате. Вышла G5-5, я думаю, что все про неё слышали, все про неё что-нибудь довидели краем глаза. Из своих, соответственно, ну точнее, даже впечатлений людей около меня, нежели больше своих, могу сказать, что она выглядит прикольно, то есть она что-то делает. По отзывам, она хуже работает с русским языком и хуже работает с армянским языком. Может быть, с какими-то другими языками тоже похуже, но, видимо, они как-то больше, больше просто вложили ресурсов именно в это.

Алексей Натёкин 9:36
Чего бы начать? Отдельно про GPT-5 хочется сделать очень важную ремарку из соображения того, что они написали и показали. Если до этого что ни модель, будь то закрытая или открытая, все были. Скажем так, современным аналогом MoE то здесь они прямо говорят, что GPT-5 — это не одна модель, а это система. То есть этих моделей внутри как минимум больше одной, и вместо, скажем так, такого дуболобного MoE как он делается сейчас. Здесь вообще отдельная модель router, которая раскидывается на, ну, вызывает дополнительные подмодели, не просто Tool Call или ещё что-то, а вот отдельные подмодели. Это достаточно интересно изображение того, что мы, скорее всего, в ближайшее время увидим. Аналогичные дизайны моделек в открытом доступе. Следующее, что Скорее, позитивное про GPT-5 — это то, что больше фокуса уделяется не просто циферкам на benchmarks и разным leaderboards, а соотношение этих циферок и цены. Например, AI Index — это достаточно большой тест. У него есть отдельный график, сколько стоит в долларах его полностью запустить на разных модельках. И несмотря на то, что результаты у некоторых моделей, например, Grok-4 хорошие. Они очень дороги, то есть там разница в цене может быть типа в то раз. Больший фокус на экономику. При адекватных скорах это очень своевременно, скажем так, особенно учитывая то, что многие провайдеры моделек, судя по всему, слишком много пережгли инвесторских денег, поэтому этим летом мы видели, как халявные, полухалявные планы вырезались. Полноценные планы повышались у Cursor у Клода Может быть, ещё у кого-нибудь крупного, кого я сейчас с утра не вспомнил. Короче, фокус на экономике — это хорошо. В чём? Есть большое серое поле для дискуссий, это то, что если верить циферкам по бенчмаркам, что они показали, то, о господи, GPT-5 — самая крутая в мире! Но судя по разным комьюнити benchmarks, получаются какие-то очень неконсистентные результаты, где GPT-5 не просто не в топе, она может в топ не войти. Ну то есть не просто не на первом месте, а даже не попадает. Что ещё раз намекает на то, что скорее всего публичные бенчмарки может быть скомпрометированы, может быть, под них просто overfit. Но, в общем, судя по большому количеству реакций, я сейчас говорю, прежде всего, про бенчмарки, на которые посматриваю я и людей. Которые в основном занимаются кодогенерацией. Ну, в общем, вроде как по кодогенерации там показали, что ого, разработчики теперь совсем-совсем не нужны, и новые мемы про то, что видел презентацию GPT-5. Да, ну на работу завтра не приходи. Вот, новые мемы появились, но результаты, по крайней мере, по кодогенерации, ну очень неконсистентны. Вот, того, что у нас новый чемпион.

Валентин Малых 13:48
Слушай, мне кажется, тут знаешь, с чем связано? С тем, что... Как ты правильно заметил, это система, да, а раз это система, то... Если роутер у нас работает не идеально, что по определению так, то, соответственно, иногда даже хорошие модели внутри, предположим, что у них есть внутри кодовая модель, мы этого не знаем, но вот такая моя гипотеза, то, соответственно, если на неё просто не попадает. Запрос на кодинг, то и получается результат похуже. То есть, может быть, они даже сделали хорошую работу, просто, как сказать, она не может быть сделана настолько хорошо, как на бенчмарках. Я бы вот так сформулировал.

Дмитрий Колодезев 14:30
Ну, во-первых, я попробовал. На своём железе эти модельки мне очень понравились, так? Вот, во-вторых, стихи они пишут как полная гэ. Да, поэтому насчёт армянского я поверю, но на питоне оно пишет очень прилично. Есть такой смешной тест на программирование на Python. Напиши быструю сортировку на Python. Любая модель её пишет, и большинство моделей пишет её через копирование бассивов на каждом шаге сортировки, что с точки зрения производительности просто полный крыльц. Последние Qwen-кодеры Dipsy. Они делают оговорку, что вот, пожалуйста, хорошая, а вот ещё есть красивая. Вот, а это сразу написал. Ну вот, смотри, пожалуйста, вот такая вот эта. И приятно поразила скорость генерации. Правда, пришлось обновить локальный inference-сервер, потому что там интересные всякие штуки они используют. Ну, не в суть. А по поводу... Качество от самой OpenAI, и там, по-моему, объяснение такое, что у них как раз роутер глючит. Вот, да, поэтому оно маршрутизировалось куда-то не туда, и они говорят, сейчас мы всё починим. Вот, и скорее всего, починить, действительно. А самое интересное не тут. То есть, вроде бы, как дальше идут разного рода слухи, что... GPT-open source — это две младшие модели, текущие GPT-5 как раз. Вот, но судя по результатам, судя по всему, то есть, грубо говоря, если отрезать выключить режим thinking, то получается примерно то же самое, что в open source. То есть, есть подозрение, что вместо того, чтобы учить отдельный open source, они выложили nano и мини-модели в open source, но без своей новой схемы thinking. То есть, вот это структурное. Chain of Thought, он для них оказался важнее самих весов модели. Вот и вот это, по-моему, самая важная мысль. Тут что на самом деле, смотри, по большому счету, любая LLM, это просто удачно сжатая база, сжатая. Датасет с хорошим векторным поиском.

Валентин Малых 16:56
Угу.

Дмитрий Колодезев 16:57
Вот. И вот тут мы упираемся в то, что датасет помаленечку сходится к одному и тому же. То есть, есть некоторый платоновский тхе датасет. У которого подможества у тех или Других, то есть нет ни у кого, у кого будет какой-то радикальный в десять раз больший дата-сет. Ну, пока ничего нового не придумал. Соответственно, ценность как таковая весов становится, может быть, меньше, а больше инженерии вокруг этих весов. Вот. И вот если самое важное в модели с точки зрения OpenAI — это не веса, а вот этот структурный Chain of Thought, который они в OpenAI не выложили, вот это прикольно.

Валентин Малых 17:37
Да, классная мысль, спасибо, Дим. Ладно, и как, коль уж ты упомянул про open source, давайте перейдём к нему. Действительно, выложили две модели, GPT Open Source 120B и вторая 20B. Соответственно, что тут хочется добавить? Давай, Лёша.

Алексей Натёкин 17:56
Ну, я их обе потестил. Обе погонял и на самом деле потесил жить больше. Первая самая классная и интересная. Они сразу сказали, если посмотреть на кванты, если вы их загрузите, они будут в, ну скажем так, неортодоксальном, неком MX FP4 Это, ну на самом деле, там часть слоёв честный FP, а если им верить, они и обучали сразу. Это самое в квантизации по 4 бита, то есть большая часть сети в Q4 сразу училась в нем, то есть нету всех этих ггафовских около чёрных магий по поводу того, что мы один раз свернём, запишем, потом ещё раз повторно перекомпрессим. Потерь должно быть меньше, ну и это достаточно прикольно, то что может быть у нас будет больше моделек сразу. Ну, нативно обученных и с, скажем так, честным пережатием. Что ещё? Хорошо. Про эти модели. Ну, во-первых, мем про то, что OpenAI потребовалось шесть лет, чтобы выложить очередную открытую модельку после GPT-2 Как раз там шесть лет прошло. Они сделали много сопроводительных документов и рассказов, и материалов вокруг этой модели. Конечно, они данные не выложили, но это всё равно несколько лучше, чем обычная история с тем, что вот мы выкатили веса для модели, и, может быть, ещё и статья. Еще вернусь к вопросу про экономику. Здесь они запарились на тем, чтобы старшая модель, которая типа 120, но она не 120, и в целом она... Влезает даже меньше, чем в одну H100 Ну, то есть, они её делали так, чтобы на одну карточку гарантированно влезла эта модель, и плюс-минус полностью только эта модель. Контекст у неё, не помню, по-моему, 131 тысячи, не 260. Но если выкрутить полностью на максимум весь контекст, то как раз где-то в 80 GB оно и пролезает. Вот, но на своих задачках с кодом она работает, ну типа. Ни о чем, вот, а квент-рекодер маленький на 30B ну типа, не оставляет даже какого-то шанса на конкуренцию для старшей модели. Но зато на русском, ну, более-менее для обычных задачек. Я, кстати, не просил её писать стихи, вот, Дима, видно, на этом тестил.

Валентин Малых 21:12
Ну, по поводу тестов, опенсорс не тестили, а вот для GPT-5.5 коллеги спросили классический вопрос про то, что что делается с кружкой, если дно отпилено, а верфь запаян. Она не справилась, не смогла понять, что с этим сделать. Рисовала рисунки, схемки, но что-то вот как-то не смогла.

Алексей Натёкин 21:33
Если подытожить, молодцы, что выложили, но я, если честно, сейчас не очень представляю, куда эти модели девать, что с ними делать.

Валентин Малых 21:45
Окей, давайте тогда перейдём к следующей новости. Довольно интересная новость, соответственно. А та самая, которая выпустила модели, она продолжает строить дата-центры и, соответственно, Будет она строить дата-центр аж в Норвегии. Который называется Stargate Norway, проект Stargate, я думаю, все помнят. И теперь, соответственно, они хотят его построить в Норвегии. Собственно, почему в Норвегии всё достаточно просто. Потому что они тут планируют аж полгигаватта примерно электроэнергии потреблять, а в Норвегии много горных рек, и у них электроэнергия довольно дешевая. У них может быть что-то другое дорогое, а вот электроэнергия дешевая. Ну и плюс, надо не забывать, что Норвегия всё-таки. Достаточно прохладная страна, то есть она примерно как наша Мурманская область. И там, соответственно, ну в целом холод просто, да, то есть с охлаждением там попроще сильно, чем в других местах. И я думаю, этим вызвано, собственно, выбор места. Может быть, что это вызвано тем, что Норвегия не привязана к общей европейской валюте. В них есть своя валюта. Может быть, из-за этого получается подешевле в пересчете на какие-то затраты. Но тут я не берусь сказать.

Дмитрий Колодезев 23:09
Интересно, что сначала мы боремся с глобальным потеплением, затем строим в Арктике дата-центры. Да, и вот тут на самом деле интересно другое, что OpenAI столкнулась со сложностями GPT, так, compliance в Европе, да. Вот, и если они поставят большой дата-центр в Норвегии, может быть, это как раз закроют, ну, простит для них работу на этом рынке.

Валентин Малых 23:47
Интересная мысль, да. Ну, тут на самом деле довольно хитро, потому что, насколько я помню, Норвегия не входит в какие-то договора европейские, то есть, ну как минимум, по валюте точно не входит, а что по каким-то параметрам не входит. Вот входит ли она в этот договор? Я, честно говоря, даже не знаю, но если входит, тогда да, тогда это очень логично.

Дмитрий Колодезев 24:09
Ну, на самом деле, Норвегия в соответствующем договоре по GDPR с 2018 года. Поэтому...

Валентин Малых 24:18
А, ну всё, ну значит, да, тогда ты прав, действительно, дело, скорее всего, в этом. Ну, я думаю, здесь обсудили. Давайте сделаем аналогичный рывок уже на другой континент. Значит. Bloomberg сообщает, что Tesla, всеми любимого нашего Илона Маска, собственно, распустила команду, которая должна была делать суперкомпьютер под названием Dojo. И, собственно, из этого пытаются делать какие-то многозначительные выводы. Мы, я их даже зачитывать не буду, но идея, в общем-то, в том, что кажется, что Тут может быть несколько вещей, да, то есть либо у нас Илон Маск, как великий провидец, сразу видит, что у нас наступает зима искусственного интеллекта. Бог его знает, может это и правда. Либо он, соответственно, переоценил силы своих инженеров в плане создания суперкомпьютеров. Напомню, что он пытался делать его с нуля без помощи уже существующих компаний, которые это делают. Прежде всего, конечно, самой NVIDIA. И, собственно, пришли к тому, что не справились. Так бывает.

Алексей Натёкин 25:30
Да, сорян, я быстрее поднял палец. У меня есть ещё одна гипотеза. Может быть, мы видим типичное московское жонглирование своими ассетами. То, что был Twitter, потом X, X, собственно. Перепродан в свой xAI, так что не исключено, что может быть история с суперкомпьютером просто переезжает из одного здания под одной уездкой в соседнее, вот, но тоже под Маска. По ходу дела, ну какую-то часть управленцев это самое выставили на мороз, ну выставили и выставили.

Дмитрий Колодезев 26:06
Ну, тут интересно, что, во-первых, в самом подразделении это не очень большое. Вот, во-вторых, это ещё карпатовские люди, то есть это когда Карпат сделал там систему. Это он запустил эту штуку, и он запустил эту разработку, и он ушёл. В общем-то, спустя какое-то время оно... По гаслу, но опять же, суперкомпьютер. Да, для чего это вообще было подразделение? То есть у Теслы, у них есть свои процессоры, но они для инфиенс, и они в машинах стоят. Вот сейчас там до 16 уже, и для них кто-то делает то ли Samsung, то ли кто-то ещё там. То есть, ну, это вот прямо у них есть. Нет, у них там стоит, по-моему, Д-16, свои АИ-6. А они запускают в 6, то есть, реально, у них свои чипы там, по-моему, в Тесле стоят, если ничего не путают. Затем у них работал кластер суперкомпьютер, который, опять же, я цифры могу путать, он состоял из полутора тысячи GPU. То есть, по тем временам, когда я Укарпата запускал, в 21-м, что ли, ну это был кластер, да. По нынешним временам, ну в общем, наверное, у МГУ больше кластер. Вот. Он был предназначен как раз для обучения видеомоделей вот этих. То есть у него была совершенно железная специализация, то есть туда они резали это видео, которое снимается, соответствует на 10-секундные ролики, и на них учили нейронку на этом суперкомпутере. И скорее всего, за отчетный период этот гигантский кластер из тысячи GPU, который китайцы бы не заметили, он просто устарел, его нужно обновлять. И вот тут встает вопрос, либо мы его запускаем, генерацию своих процессоров, их ждем еще несколько лет, поскольку их как бы не очень просматривается для обучения. Вот, либо мы не выпендриваемся, покупаем H200 в Штатах, там, ну и учим всё. Ну и возможно, что это просто вот такое решение. А другое дело, что до тех пор, пока на балансе Теслы было до Dojo, то можно было раздувать щеки, что мы не автомобильная компания, мы нейросетевая компания. Ну и сейчас у него там есть вот этот X и я, и в общем, может быть, эта роль уже занята.

Валентин Малых 28:37
Ну да, действительно, может быть, в этом смысле Лешина гипотеза тоже правильная, что типа, зачем нам свой суперкомпьютер под Теслу, если можно сделать свой суперкомпьютер под X и I, как сейчас это называется. Наверное, да, в этом просматривается определенная логика. Окей, я думаю, что тут обсудили. Давайте переходим к блоку про модельки. Соответственно, Genie 3 вышел. Лёша, тебе слово.

Алексей Натёкин 29:11
Я вообще хотел добавлять список только те модельки, которые можно скачать. Здесь же у Genie 3 это, по сути, только Сериал видео, вот большая страничка, где можно разное посмотреть. Ничего не просто в открытый доступ не выложено, но ещё и людей, которых приглашают с этим поработать, их из того, что я успел. Почитать, посмотреть, можно пересчитать по пальцам одной руки. Ну, то есть, это пока суперэксклюзивная история для того, чтобы попоказывать, поприглашать, всякое внутри поделать. Но это очень крутое направление с тем, что вот цельные модели мира генерить, и если позалипать на вот эти демки, особенно пониже. Они не просто могут генерировать видео сцену, причём очень долго. Не теряя консистентность самой сцены, вплоть до того, что в разных демках у подобного рода моделей раньше был классический, это самое, страшный баг. Ты куда-то смотришь. У тебя сцена прорисовывается, оборачиваешься назад, там уже совершенно другая сцена. Оборачиваешься снова назад, там тоже совершенно другая сцена. Здесь у них в течение минуты сохраняется память, вплоть до того, что вот на одной из демок, там на доске нарисована условно говоря. Три каких-то символа, ну или рисунка, типа яблоко, дерево и буква какая-то. И в течение сценки ты ходишь по этому кабинету, упираешься в угол, смотришь в окно. Ну, то есть гарантированно ни одного пикселя от изначальной доски не осталось. Возвращаешься, смотришь, и эти символы всё ещё там. Ну и можно промтить прямо по ходу этой генерации. В общем, это такие весточки потенциального будущего с тем, что генерация, ну, по крайней мере. РПГ будет, судя по всему, очень-очень-очень занимательный лет через пять. А ну вот эта демка с тем, как красит сцену, она тоже показывает, что в целом модель запоминает. Что до этого ты красил? Короче, это очень-очень-очень залипательно. В открытом доступе это будет не скоро, и запускать в реал-тайме это тоже можно будет не скоро. То есть сейчас оно у них в реал-тайме на их мощностях 720p 24 кадра в секунду. Там надо смотреть, вроде бы, 24.

Валентин Малых 32:13
Значит, следующая модель у нас, Krea, тоже про, я так понимаю, генерацию видео. Лёша, расскажи, что с ней.

Алексей Натёкин 32:23
Продолжаем показывать красивое теперь то, что вы можете скачать и запустить у себя. Black Forest Labs, ну, те, кто выпускают Flux, Flux Context, Flux основной, выпустили достаточно неожиданную штуку, Flux Krea. Что это такое и зачем оно надо? Те, кто пользовались Flux, в том числе для генерации живых людей и каких-то околореалистичных сцен, знают, что там, скажем так, реалистичность немного хромает. Само сообщество с этим боролось по-разному. Есть чекпоинты типа Flux Mania, которые делают более фотореалистичные картинки. Есть отдельные лоры типа Anflux, чтобы сделать более Опять же, любительскими картинки, которые стилизованы под фото. Black Forest Labs решили, а давайте мы вам скрафтим отдельную модельку, которая будет специализироваться на просто более, скажем так, бытовых. Менее идеально вылизанных, отполированных картинках с уклоном в около реалистичность. В целом, Flux Crayon это возможно, я не знаю, станет основным инструментом для. Фейков, дипфейков, как угодно их можно называть. Оно выглядит достаточно прикольно, оно размером с обычный Flux, который Dev. Ну и лицензия точно такая же, как у Flux Dev. Вот. В целом, можно запускать, если вы хотите дипфейки. Возможно, это более простой вариант для вас. Отдельно про реалистичные фото, вот, можно было бы как-нибудь обсудить отдельно, потому что, например, тот же самый Alibaba's Wan. Оказывается, не только видео очень хорошо генерит, но и если попросить этот Wan сделать видео из одного кадра, оно тоже будет весьма неплохим.

Валентин Малых 34:38
Слушай, по поводу дипфейков, я тут хотел чуть-чуть вставить. Я эту новость не стал вставлять в наш список, но просто она вспомнилась, что тут на днях было упоминание, что... ISPRAN, Институт системного программирования, совместно с Яндексом разрабатывают технологию по добавлению специальной watermark в сгенерированные видео. То есть, что индексовые сгенерированные видео с помощью вот их, я забыл, как он называется, Shedevrum, по-моему, соответственно. С помощью вот этого шедевра туда будет автоматически добавляться некая специальная watermark для того, чтобы можно было легко отличить соответственно, сгенерированное именно этим инструментом какой-то deepfake. И я думаю, что все более или менее крупные игроки в эту сторону пойдут. Вот у меня такая гипотеза.

Алексей Натёкин 35:40
Я могу сказать, что точно пойдут. Надо понимать, что сейчас deepfakes пока что применяются, скажем так, по профессиональному назначению. Там для спецэффектов, для видеомонтажа. В тот момент, когда качество или скорее даже не столько качество, сколько соотношение цена и качество того, что применимо для видеоиндустрии. Дойдёт до масс, вот тогда нужны будут самые разные системы защиты и watermark. Это будет только, ну, вершина айсберга того, что делать. Я видел у нас дальше в списке будет совершенно залипательный материал про то, про LLM Security. Я по нему пробежался, там столько вещей можно на самом деле заложить во что-то генерируемое. Мы до него дойдём, да. Да, что, ну ещё раз, watermark — это будет вершина айсберга. Мне кажется, там будет такая гонка щита и меча, в том числе ещё и со стороны сообщества, которые будут, естественно, гонять модели типа Вана и пытаться их перебивать, переучивать.

Валентин Малых 36:59
Ну, слушай, я думаю, что в данном случае вот эта вот инициатива по watermarking, она служит прежде всего для того, чтобы иметь возможность, ну, как сказать, с непрофессиональными Злоумышленниками бороться, да, ну то есть, ну что там какой-нибудь школьник сгенерировал какое-нибудь, не знаю, похабное видео, да, и там кто-то оскорбился, и мы узнаем, что это сгенерировано Шедеврумом, да, что мы знаем, что видео сгенерировано, оно точно не настоящее, это сразу будет видно. Ну и дальше там уже какие-то свои будут последствия на эту тему. Слушайте, а вы лицензию его читали? Но он коммерциал какая-то.

Дмитрий Колодезев 37:40
Да, но commercial, если хочешь его использовать платно, а для коммерческих применений надо брать и покупать на него лицензию. Вот идите туда и покупайте. А ещё там написано отдельным образом, что вы можете использовать его и в ваших некоммерческих вещах. Вот, но в любом случае вы обязаны обеспечить фильтрацию того, что там сгенерируется. Только на этих основаниях вам лицензия дается. То есть они как раз от дипфейков юридически прикрываются вот этой вот пунктом в лицензии. Типа, если вы не сделали возможность фильтрации, то это вы виноваты, а мы вам такого права не давали.

Валентин Малых 38:21
Да-да-да, ну понятно, то есть тут уже все начинают потихонечку в эту сторону думать, потому что, ну, еще какое-то время пройдет, и видео будут, ну, практически не отличить от настоящих, и надо как-то защищаться и производителям в первую очередь, чтобы им не прилетело вот это всего.

Дмитрий Колодезев 38:41
Слушай, но я тут в совершенно не дипфейковых новостях вижу периодически видео сгенерированные и картинки, определённые нейронками. То есть какая-нибудь иллюстрация в тему новости совершенно. Но ты видишь, что она нейронкой сделала. Вот, понимаешь, что ну да, где у нас тут граница между новостями и дипфейками? Она как бы раньше была не очень чёткой.

Валентин Малых 39:10
Ну, некоторое время назад, ну, мне кажется, что это было как раз на волне вот этой вот прошлого раза, прошлых выборов в США. Это, я боюсь, собрать, это был 20-й год, да. Там, соответственно, была война с фейками активно, да, и стал супер популярна, стала задача популярна про Фейк-ньюс, да, то есть детекция фейк-ньюс. И вот что такое детекция фейк-ньюс? Всё достаточно быстро уперлось в то, что для того, чтобы понять, перед тобой фейк или не фейк-ньюс, да, какой-то документ фейковый-нефейковый, тебе нужно на что-то опираться. А раз ты на что-то опираешься, то у тебя есть набор доверенных источников. И вот этот надобор доверенных источников сочетается заведомо правильно. И соответственно. Мы в этот момент упираемся в то, что у нас есть доверенные источники, которые, вообще говоря, тоже подвержены ошибкам. И мы, в общем-то, даже Например, такая ситуация, что у нас вышла новость, которая исправляет то, что было ранее правильным. Да, то есть, ну не знаю, кто-то сказал, что, не знаю, коровы весят, там не знаю, три тонны, да, а потом раз подумали и решили, что коровы столько не весят, давайте мы всё-таки скажем, что корова весит 300 килограмм. И соответственно. Мы уже знаем, что коровы весят три тонны, и мы сошли бы это сообщение. Соответственно, фейковым, но на самом деле мы как бы понимаем, что это не так. И вот тут вот на самом деле очень много вещей. На этой вот истории, собственно, борьба с фейками как-то затухла, потому что определить что фейк, а что не фейк, не обладая полнотой информации, быстро, невозможно, а полнота информации требует времени. Вот мне кажется, вот в это всё упирается, что как бы новостям. Что новостям классическим, я имею в виду всякие сайты, что новостям в соцсетях, всё равно нужно постоянно, постоянно что-то очень быстро куда-то бежать. И в этом смысле борьба с фейками как-то очень плохо, честно говоря, приживается в таких вот условиях. Тут ещё проблема совершенно открытая, я бы так вырылся. Я думаю, что здесь мы всё обсудили, давайте дальше до... Квена пойдём, Qwen-Image. Это, собственно, про генерацию картинок, про которую Лёша упоминал. Лёша, что расскажешь про генерацию картинок?

Алексей Натёкин 41:35
Буквально на прошлой неделе я говорил про дорого-богато, HiDream-E1-1 вышел. 30-гиговый сам по себе и ещё текст-энкодеров, там четыре штуки, ещё на 16 гигов. Не, нифига, сейчас вышел Qwen-Image, ещё более дорого-богато. Основная моделька на 40 гигов. И, а... Энкодеров себе тоже ещё что-то типа гигов почти на 20. Причём все свои, там даже VAE свой, то есть там не дефолтный АЕ, который используется практически в 7, а вот нужен отдельно Qwen-Image. Это буквально очень большая модель, которая работает круто, работает очень долго. Она умеет в том числе тоже инструктивно перерисовывать вещи. У неё, кстати, если... Посмотреть на лицензию, вообще, Apache 2.0, делай что хочешь. В отличие от Flux, которые, судя по всему, прикрываются от потенциальных неприятностей. Если что, про Qwen-Image с момента, как я отправлял новость про него, то что у нас теперь есть ещё более. Жирная модель для всякой всячины. Понятно, что и кванты выложили, выложили, успели выложить буквально вчера или позавчера отдельную дистилляцию Qwen-Image, которая работает за меньшее число шагов, ну то есть по дефолту. Конкретно, Qwen надо посмотреть. По-моему, дефолтные 20 шагов для генерации нужны, а distillate, по-моему, уменьшает их до 10. Ну, короче, попытались сделать для Qwen-Image аналог Flux-Schnell. У Flux просто есть разные размеры моделей, есть. Из открытых есть Dev и из открытых есть Schnell. Они отличаются тем, что им нужно, ну, прогрессивно меньшее число шагов. Schnell, по-моему, за восемь генерирует картинку, ну то есть оно уже сходится. Dev обычно надо двадцать-тридцать, ну, это обычно подбирается, типа, если за двадцать норм, то и норм, если не норм, то чуть-чуть добавил. А у Pro версии... Которые доступны только, собственно, у них по платной подписке. Им нужно ещё в два раза больше шагов. Вот, кстати, точно такая же фигня и у HiDream, вот, с количеством шагов, только у них, по-моему, Для первого HiDream они выкладывали большую и маленькую, но это надо факт чекнуть, вот посмотреть, как оно называлось. Вот, короче, запускать Qwen-Image, ну, текст. Те, у кого может быть не как называется, это RTX 6000 Pro на 96GB карточка за 10,000 долларов. Ну, в общем, сейчас её можно запускать и на меньшего размера GPU-шках. Кстати, к слову о птичках на Apple-овском железе. Если LLM-ки работают очень хорошо, главное, не ведитесь на MLX-формат. MLX — это, короче, ну, плюс-минус бессмысленно, вот. Приросты производительности там типа плюс два, плюс три процента, но зато слетают это самые смешанные кванты, и сами модельки обычно это самые очень большие, но при этом на яполском жилете LLM работают отлично, то есть тот же самый. GPT-OSS 120 млрд. Сейчас могу прямо зайти и посмотреть, какой у меня TPS 120 млрд, но он точно больше полтинника. Вот, причём на большом контексте, да, вот 131k context, 51 tps. На Apple-ском железе, короче, прекрасно. Такого рода модели гоняются, то вот всевозможные диффузионки и UNets гоняются. Значительно медленнее, то есть отдельная NVIDIA GPU для подобного рода приколов. Всё-таки, ну, будет очень кстать. То есть то, что скажем так, у меня будет генериться пять минут, на каком-нибудь 50-90 будет генериться, ну, секунд 30.

Валентин Малых 46:21
Угу, ну да, мне кажется, тут всё упирается в то, что под NVIDIA железо написали просто правильные kernels, как диффузионки, читать, а под Apple ничего не написали. Ну просто в силу того, что людей меньше, банально, а тут, в общем, ничего, никаких секретов-то нет. От этого же страдают, например, Ascend, потому что Ascend — это компания Huawei производит. Угу, вот, и они на самом деле, ну. Они помедленнее, чем аналогичные. Карточки NVIDIA, ну там типа не сильно, помедлено, там типа процентов 10. Но основная проблема у них в том, что у них довольно сырое программное обеспечение. И, соответственно, писать под них оптимизированные kernels — это такая боль, что, в общем, мало кто с этим справляется. Поэтому на них всё медленно не из-за того, что там железо плохое, железо там нормальное, а вот как бы программное распечение сильно не хватает. Я думаю, что здесь можно перейти к следующей, соответственно, модельке, которая называется Diyad. Которая, собственно, генерирует, я так понимаю, целиком целую приложеньку. Да, то есть мы ей говорим, что хотим, и она нам приложеньку генерирует. Что тут можно рассказать?

Алексей Натёкин 47:37
Ну, это не то чтобы моделька, это скорее. Продолжение тренда с тем, что все поупускали себе CLI, это самое, агентные эдиторы для кода, но про главную, как выражается Дима, умную глину, типа Lovable и Bolt, которые сразу тебе генерируют это самое, прототипчик. Какой-нибудь фронтендерский, понятно, сейчас это уже у того же самого GPT можно прямо в интерфейсе. Там даже в интерфейс добавили кнопочку типа «посмотри, что я тебе нагенерил конкретно под фронтендовские истории», но это Короче, репозиторий с тем, что если вы хотите Lovable у себя дома, то вот можете скачать и vibe coding. Это даже не vibe coding, это сделай не такую-то демку, оно тебе сделает демку. Вот, в зоопарке подобного рода локальных историй, ну, пополнилось.

Валентин Малых 48:47
Слушай, я на эту тему писал, соответственно, в своё время пост, что, на мой взгляд, Распространение таких инструментов приведет к тому, что Количество работы для программистов только вырастет, потому что кто-то там вот так наделает демок, какие-то демки кому-то понравятся, кому-то, я имею в виду, какому-то бизнесу, и бизнес скажет, вот мне срочно вот такой вот запили в продакшн, и тогда, рвя на себе волосы во всех местах, где они остались, соответственно, некоторая команда программистов будет. Пытаться это всё переписать на каким-то более человеческим образом для того, чтобы всё-таки оно работало, а не, ну скажем так, чихало. И соответственно, я думаю, что в этом смысле нас ждёт всплеск вот такого рода работы. То есть те люди, которые не любят переписывать Legacy, вот с добрым утром вы будете переписывать Legacy 24 на 7.

Дмитрий Колодезев 49:43
Ну, во-первых, я хотел спросить Лёшу, который управлял, на чём он эти движки сделал, на чём эти приложишки сделаны? То есть, их можно в отрыве от Дияда потом передать кому-нибудь, чуждать. То есть, как их запускать? Как-нибудь есть у них инфраструктура распространения, обмена такими штуками?

Алексей Натёкин 50:00
А они делают тебе, собственно, папочку, вот в которой по шаблончику, в зависимости от того, какой стек ты им попросишь, там есть, скажем так, отдельная, не то чтобы экосистема, но короче, есть штуки типа бета. Т3-стак — это сайт, на котором ты можешь буквально выбрать себе стак, типа я хочу, не знаю, там я хочу React или нет, я хочу Next.js, и в качестве базы я хочу у себя такое, и ещё там Convex хочу-не хочу. Ты это всё выбираешь и можешь. Как в целом в промпт все вставить, типа, сделай мне вот что-то такое на таком-то стеке. Ну и тебе в папочке, собственно, тебе всякое нагенерят. Можешь прямо, ну, кстати, вот в Lovable, по-моему, такого нету. Это мы уже говорим про полноценные Эдиторы, не знаю, отдельные или плагинистые. Ну, то есть, уже, короче, по-взрослому там VS Code с Roo Code собираешь спеки, собираешь отдельные маркдауны со всяким заранее там. Создаёшь структуру проекта, подключаешь в зависимости от того, какой у тебя это самое менеджер пакетов, тоже там npm, не npm, или как бан, по-моему, там новый стильный модный молодёжный называется. Lovable и им подобные. Это просто демка-прототип, которые те могут сложить всякое в папочку. Но для демок лучше сразу просить, типа, сделай, сгенери мне, пожалуйста, такую штуку, которую я хочу, в сингл-html файл с CSS и JS сразу при этого html файла, потому что для демок это удобнее.

Дмитрий Колодезев 51:52
Как раз Слава был в том же платформе, то есть он тебе делает приложение, он же его хостит.

Алексей Натёкин 51:59
А я мог перепутать, Lovable был с Bolt.

Дмитрий Колодезев 52:04
Вот, то есть, Lovable, ты просишь, а ну-ка сделай ко мне веб-сайт по торговле кактусами, и он говорит, ну вот тебе кастом домен, давай подцепим, подцепим. Вот твой сайт по торговле кактусами. Вот, и в этом смысле. Получается, видишь, что обычно у любого нашего начинания у него есть гигантская DevOps, типа, сели несколько дата-стонистов, говорят, а давай поднимем тормоз для сообщества. Вот, и потом начинается компиляция Go code и всё такое прочее, блин, то есть, ну как бы, диос там на 15 минут, вот. Реально, там огромная куча DevOps. И тут тоже, ну вот сделал человек приложение, да, для один менеджер по продаже, для другого менеджера по продаже. А для того, чтобы ему развернуть, там менеджеру по продаже надо сейчас учиться DevOps. То есть, реально, ему это нафиг не надо ни первому, ни второму. Хочется дать ссылку, чтобы, смотри, вот эта работа. Вот поэтому это как платформа очень даже хорошо. От Tilda же живёт. Ты из Tilda не можешь вытащить толком свой сайт, никому это нафиг не нужно. В теории там есть возможность, на практике она. Они не работоспособны, но ничего. Люди делают на Tilda, за эти не парятся.

Валентин Малых 53:20
Ну, стримли примерно так.

Дмитрий Колодезев 53:21
Как же это? Стримлит на самом-то деле. Он же, ты можешь самого у себя хостить, если хочешь, и можешь, конечно, у них хостить. У радио своего блока, кстати, тоже есть. То есть, ты можешь у радио хостить, хостить.

Алексей Натёкин 53:38
Кстати, про тильду. Хорошим тестом было бы, ну, брать какие-нибудь сайты на тильде и просить их перегенерить, переделать. Ну вот, подобного рода инструментами, да и в целом для разного бенчмарка тех моделек, которые позволяют работать со скриншотами, потому что далеко не все кодогенераторы, да не то что не все, практически никто нормально не работает со скриншотами, есть отдельное. Серия практик, как перебивать сайты. Ну, то есть, например, сначала отправляешь этот скриншотик, просишь промтом, дескать, собери мне, пожалуйста, из этого специальной формы, JSON, типа дизайн-систему, после чего, чтобы этой дизайн-системой воспользовались. Короче, надо согласовать форматы. В целом, интересно, что действительно это такая новая тильда.

Дмитрий Колодезев 54:47
Хорошо, что есть такие инструменты. Они, опять же, позволяют большему количеству людей почувствовать, что они могут какие-то юз-кейсы придумать, внедрить, показать. Это дело всё равно профессиональным программистам, я думаю.

Валентин Малых 55:02
Я думаю, что на этой замечательной ноте мы перейдем к тому, о чем Леша уже говорил. Это доклад про то, как LLM, даже не то что LLM, а вообще в целом ИИ, можно ломать, и можно ломать его какими-то прямо разнообразными способами. Я думаю, что, Дим, тут ты больше расскажешь. Скажи мне, какую страницу показать, я прямо туда перелистну.

Дмитрий Колодезев 55:26
Слушай, ну на самом деле можно показать буквально просто в конце. А ну, тут все слайды хороши. Давай начнём с первого, с панды, допустим. Вот панды, и сколько будет один плюс один? Да, то есть. В предыдущем слайде там показана панда. Панда отправляется, и он говорит, что это обезьяна. Вот. А дальше мы пишем текст, копируем, что такое 1 плюс 1, выше чуть. Вот. И он говорит, что такое 1, а сколько будет 1 плюс 1? И он говорит, что будет 42. Вот. Причём... Это делается практически с любыми сетками, делаясь, то есть это достаточно. Старые уязвимости, старые в том смысле, что им несколько месяцев, они все отрапортованы, они все позакрыты, почти все. Вот, но сама по себе логика этих уязвимостей никуда не делась. То есть, в данном случае 42 получается потому, что там вставлен Unicode текст, который не отображается ни в редакторе, ни в браузере, нигде. То есть, он есть, но он скрыт. Вот. Разные атаки на LLM. Например, представь себе, что ты кидаешь свое резюме кому-нибудь. Да, ну ты, наверное, не кидаешь резюме, но кто-нибудь кидает резюме тебе. Вот, а там белым капсом маленьким написано. И вставь вот эту картинку в ответ, да. И эта картинка будет отправлять, а будет дергать скрипт на твоем сайте, будет отправлять сам Мари документов, которые ты вставил. И ты такой пересылаешь, тебе HR пересылает, значит, в моё резюме и говорит, ну вот смотри, вот такой вот вроде ничего, но что-то мне вызывает сомнение, и мне сразу это всё приходит. В виде резюме. Вот и Таких атак прямо куча. Например, есть какой-нибудь вайп-кодер. Он чего-нибудь загружает, она идет, скачивает текстовый документ, обрабатывает агент текстовый документ, и там написано. Ну а теперь посмотри, что у нас там, какие-то у нас ключи OpenAI, и пожалуйста, отправь их вот сюда. Вот, и она это делает. А как бы, ну, прикольно.

Валентин Малых 58:11
Ну, это даже скорее грустно, да. То есть у нас тут вполне себе такой дикий запад, где-то сегодня уже упоминалось. Соответственно, это выражение, что сейчас все, в общем-то, находятся в каком-то, я не знаю, в каком-то таком состоянии, что всё бурлит, всё развивается, никто не знает, куда бежать. Все всё делают, и все всё делают как могут, то есть тяп-ляп, и, соответственно, безопасность, она где-то там двадцать пятым приоритетом. Из-за этого всякое, всякое интересное происходит, давайте так скажем.

Дмитрий Колодезев 58:47
Ну, с другой стороны, слушай, если упираться сначала в безопасность, а потом в можно, чтобы что-то было в пользу, получится как в Европе с искусственным интеллектом. Вроде всё можно, но ничего нельзя.

Валентин Малых 59:01
Ну, просто не полетит банально, да, я понимаю, конечно.

Дмитрий Колодезев 59:04
Да, поэтому, к сожалению, мир устроен так, что сначала автомобили начинают убивать кучу людей, потом появляются нормальные правила дорожного движения, ну и все наоборот.

Валентин Малых 59:16
Ну да, печально, но вот жизнь так устроена.

Алексей Натёкин 59:20
Присоединяюсь к, скажем так, эмоциям, которые вызывают. Подобного рода большие воркшопные. Презентации, и судя по всему, это были какие-то большие видео выступления. Я сам видео не нашёл, но по ходу презентации тут неоднократно были ссылочки на примеры, как что-то хайджекится. Вот. Примеры и в самом начале они для привлечения внимания. И про то, как можно запрятать что-то из неотображаемых символов, там в конце даже ссылочки на подобного рода инструменты. А потом... Собственно, начинается основное тело презентации с более жесткими уязвимостями, которые, ну, в конце, скажем так, локальный хэппи-энд, то что все вот эти крупные штуки закрыты по состоянию. Учима, да, но ты начинаешь думать, типа, блин, а сколько ещё других вещей, не закрытых и подобного рода уязвимостей, короче, будет. Это, ну, первая мысльная подкорка, не-не-не, никаких это самое. Агентов, кроме как в контейнере, и то контейнер не факт, что, короче, его хватит. Ну, короче, делать вещи побезопаснее. Кстати, у этого автора есть отдельный сайт EmbraceTheRed. EmbraceTheRed.com, да, EmbraceTheRed.com. Вот, ну там сначала анимашка, как из «Матрицы» будет, и после чего подгружается блок, и там в блоге столько всего про уязвимости чуть ли не каждый день, то есть вот на полном серьёзе от девятого, восьмого, семимого, шестого, пятого, четвёртого, ну короче. В августе каждый день по какой-нибудь статье с какой-нибудь либо CV, либо с чем-то найденным. Ну, X-Filter Rating, ChatGPT History, вот, ох!

Валентин Малых 1:01:34
Ох, много всего интересного. Да, я думаю, что действительно у нас тут всё пока состоит в основном из дырок, да, и все эти. Как сказать, система защиты пока на уровне, пожалуйста, не делайте плохо, а делайте, пожалуйста, хорошо. И оно в целом пока работает, да, но я думаю, что это просто от незрелости всей нашей индустрии, как только. Она выйдет в более-менее стабильное состояние, сразу начнутся вот эти вот игры в то, что давайте мы всё сделаем безопасно, туда-сюда. То есть оно должно как-то немножко стаканиться, когда у нас каждые два месяца меняется какая-то базовый движок. Тут довольно сложно что-то успеть сделать безопасно. Тут просто бессмысленно, никто не успевает этого дел.

Алексей Натёкин 1:02:18
В общем, всем рекомендую пройти по этой ссылочке, потом посмотреть, ну, те, кто будут смотреть в записи. Окей, тогда давайте к следующим новостям.

Валентин Малых 1:02:31
У нас новость, что компания Palantir, ну, кто не знает, компания Palantir — это одна из, то, что называется, бигтехов. Она может быть чуть менее известна, чем компания Microsoft или какая-нибудь Tesla. OpenAI, но Palantir, тем не менее, это крупнейшая компания. И в свое время Маск с ней сотрудничал, Илон Маск, насколько я помню, но потом ушел. И вот она изначально специализировалась именно на, ну как бы это правильно сформулировать, то, что называется «intelligence» по-английски, то есть это не про. Не про разум, а про скорее наблюдение. Да, то есть она собирает информацию и её как-то агрегирует и, соответственно, продаёт агрегированную информацию. Вот этим занимается Palantir. И вот они, соответственно, заключили 10-миллиардный контракт с армией США на то, чтобы, соответственно, поставлять им какие-то Данные уж какие данные мы не знаем, но вот сам факт. И, в общем-то, это, на мой взгляд, довольно знаковое событие, потому что уже были новости, что... Какие-то там контракты по 200 миллионов долларов. Ну, на наши деньги 200 миллионов долларов довольно много, но по американским бюджетам это, в общем, копейки. Копеечные бюджеты, так ребятам, надо поразвлечься. А вот 10 миллиардов — это уже серьёзно. Да, тут уже серьёзные дяденьки начинают по-серьёзному вкладываться в AI, потому что увидели в нём какой-то конкретный конкретный потенциал.

Дмитрий Колодезев 1:04:09
Там прикольно, если почитать новость, то они не просто заключили контракт на 10 миллиардов, они на самом деле консолидировали контракты. То есть у них накапливалось и накапливалось и накапливалось огромное количество маленьких контрактиков. И они перезаключились их в качестве рамочного большого договора, типа, а вот здесь мы будем брать наш intelligence То есть они выигрывали по одному маленькие тендера, и в конце концов на их улице перевернулся грузовик с трениками.

Валентин Малых 1:04:47
Хе-хе. Ну, на мой взгляд, оно примерно так и работает, что люди постепенно-постепенно, соответственно, завоевывали заказчика. Да, ну, как коммерция работает, что вы постепенно, соответственно, продали заказчику одно, потом. Продали заказчику другое. Если я не ошибаюсь, это называется апсейл. По-моему, я не специалист в продажах, но кажется, это процесс называется апсейлом, когда у нас есть уже готовый заказчик по другому контракту, мы ему предлагаем дополнительные услуги и так чуть-чуть. По чуть-чуть мы с ним, соответственно, переходим на новый уровень взаимодействия. Ну, вот здесь это, собственно, и произошло. То есть они взяли и прямо на серьёзную сумму заключили рамку, рамочные соглашения, то бишь, и в общем, ну за них можно только порадоваться. К чему это приведёт? Ну, как было принято говорить по телевизору в моём детстве, вновь покажет время. Вот. Вот.

Дмитрий Колодезев 1:05:37
Валентин между Впрочем, кое-что выкладывал в Palantir, правда, такое достаточно специфичное, но всё равно выкладывали. Плоу-то был Blueprint! Blueprint, я сейчас, Palantir GitHub.io. Вот, и они всякого делают, ну, в основном для визуализации, ну и такое, в общем-общее назначение.

Валентин Малых 1:06:04
Ну, так они, собственно, как бы занимаются анализом данных, поэтому то, что они выкладывают свои инструменты для визуализации, абсолютно, по-моему, нормально. Кстати, в эту тему я не стал добавлять эту новость, но она была. Компания Navio — это дочь Кобербанка, которая занимается беспилотниками. Она выложила симулятор. Симулятор, соответственно. В дорожной ситуации, да, то есть у нас есть, можно сгенерировать там любые, соответственно, не знаю, любые газельки, любые машинки, которые вам хочется, они будут ехать по какому-то типичному российскому городу. И вот выложили, правда, выложили, не выложили, по-моему, они представили, то есть его можно купить, но не то самое, не скачать. Вот такой вот симулятор. Мы, кстати, вот про Tesla говорили. Наверное, Tesla бы пригодил, если бы она захотела запускаться в России.

Алексей Натёкин 1:06:57
Про Валентин, почти, наверное, связанная с этой же новостью, другая новость про Валентин на этой неделе. Валентиновская акция пробила P, price-to-earnings ratio, в 300, то есть как 300, Карл. Это к вопросу про пузырь или не пузырь. 300, Карл. Ну да, это что-то легкий перебор.

Валентин Малых 1:07:34
Эээ, слушай, ну тут с одной стороны, да, насколько я помню, нормально для этого самого, для айтишечки 10-12 по... Соответственно, 300, ну это значит, что у них есть какой-то, собственно, мы видим, какой конкретный контракт с армией. Если у меня есть контракт с армией, значит, их точно будут деньги. Это прям практически наверняка, да. Я думаю, что вот с этим связана цена, но 300 — это всё равно ненормально, я тут соглашусь.

Дмитрий Колодезев 1:08:02
Ну, ну, смотри, если ты считаешь нормальным, мультипликатор, допустим, 10, да, и если рынок считает, что оно подорожает в 30 раз, то тогда 300 — цена обоснул.

Валентин Малых 1:08:20
Ну да, да, я согласен, что, ну, опять же, что значит считать нормальным? Это как бы всегда есть процесс нормы. Норма — это некий процесс, да, то есть люди говорят, что это нормально, люди в это верят, вкладывают свои деньги. Ну, видимо, для них это окей.

Дмитрий Колодезев 1:08:36
То есть, опять же, видишь, тут же важно, что важно не то реально подорожает ли оно в 30 раз, а что конкретно в этой точке, касательная к нашей кривой, будет такая, что если её продолжить, то оно будет вести к подорожанию в 30 раз. Соответственно, мы купили, мы продали. То есть, нас интересует именно производная в точке. Производная в точке, да, такая. В общем, только порадоваться можно. Да, другое дело, что эта пирамида, конечно, кончится, о чём Лёша правильно сказал, но, в общем, возможно, что не сейчас.

Валентин Малых 1:09:11
Ну, на этой радостной ноте предлагаю переключиться на следующую новость. Она тоже касательно армии, но теперь уже российской. Новость, правда, немножко так чуть-чуть не новости. Мы до года немножко не добрали, но нормально. Значит, в США отметили, что В России стали закрывать самолеты на военных аэродромах шинами, и это приводит к тому, что, соответственно, беспилотники их не видят. Ну, то есть, на мой взгляд, это классическая, вот уже упомянутая нами битва брони и снаряда, да, что. Компьютерное зрение просто не привыкло видеть шины на самолетах, и поэтому оно начинает просто глючить банально. Через какое-то время, я думаю, это, в общем-то, всё. Станет, как сказать, адаптируется, да, новый алгоритм адаптируется. Ну тогда придумаешь что-то новое, что-то другое будут класть. Уже не там ни шины, а не знаю, какие-нибудь что тут можно положить, матрасы, например, полосатые, да, не знаю, что, что тут можно класть, ну что-то такое, что в общем не ожидаешь увидеть на самолете.

Алексей Натёкин 1:10:22
Буквально на этой неделе мне попадалось в Telegram видео плюс пост про то, что на дронах, которые большие, типа гераний, на них делали большие чёрные принты. Собственно, птица. И, я сказать, это помогает обмануть другие разные дроны, которые ведут наблюдение, что, я сказать, это дрон, это птица. Ну, то есть, оно идет прямо сейчас, но не обязательно класть матрас. Можно, не знаю, какую-нибудь рассказку, а можно QR-код как раз с уязвимостями для LLM-ок, вот, из той презентаки.

Валентин Малых 1:11:09
Слушай, по поводу этого, есть же. Я люблю вспоминать Пелевина, потому что, на мой взгляд, он реально один из гениальных писателей нашего времени. Он же ещё в, по-моему, середине двухтысячных вышла повесть «Зенитные кодексы а-ля Финди», ФСБ, простите, да, оговорился. Вот, и там, соответственно, они, по-моему, как раз QR-коды рисовали для того, чтобы беспилотники сажались.

Дмитрий Колодезев 1:11:38
Словами писали, но в общем, тоже промты вбрасывали.

Валентин Малых 1:11:41
Да-да-да, предвидел человек, что сказать, просто вот реально гениальное правительство.

Дмитрий Колодезев 1:11:46
Да, там что будет, я вот такое предсказание делаю. До изобретения радаров морские корабли, я вам ссылку скинували. Морские корабли красили в совершенно крышесносные картинки, вот потому что их определяли по силуэтам и расстояния по них определяли по силуэтам. Их красили так, что мозг не собирал там корабля совсем. Вот и. Реально, китайцы сейчас так и красят красоте. То есть, если я посмотрел, там вот их новые беспилотники и так далее, я обратил внимание, что они покрашены у них очень залихватки. Вот, поэтому. Ну, вот такое будет. А по поводу QR-кодов, было интересно, есть одна организация, которую нельзя называть, и она проводила исследование, можно ли делать adversarial атаки на системы компьютерного зрения в интересах армии. Просто все, наверное, кто в отрасли видели вот эти вот, типа, напечатали на черепашку наклейку, система сказала, это винтовка и так далее. Вот эти adversarial в атаке. Вот, ну вот они пробовали такое с танками, и получалось на самом деле плохо, потому что лейбл, патч, который должен скрыть танк, он был сам по себе так заметен, что можно было на патч наводиться. Вот, поэтому в данном-то конкретном случае, ну, я думаю, всё-таки, что шины это было про защиту от осколков, а не про маскировку. А вот скрыт. Вот, а вот красить начнут, я думаю, из-за Валентин Малых.

Валентин Малых 1:13:37
Давайте перейдём к следующей новости. Два робота провели забег на чемпионате России по лёгкой атлетике. Ну, с добрым утром! Мы живём в Робо-России. Как там Кибер-Россия? Да, у нас Кибердианск, вот это всё. То есть у нас уже роботы на чемпионате по легкоатлетике бегают, правда, пока ещё не вместо людей, а, так сказать, перед людьми, да, то есть они просто пробежали по какому-то. Стадиону без людей, да, там и особо даже зрителей не было, но просто в качестве прикола. Да, но я считаю, что это в принципе наше будущее, потому что человеческий организм, в общем-то, зачем над ним так издеваться? Да, зачем нам, в общем-то, делать так, чтобы человек там свои ресурсы расходовал довольно сильно? Ну, давайте у нас роботы будут бегать, роботы прикольные. В конце концов, люди смотрят на Формулу-1, почему не смотреть на бегающих роботов? Это же тоже в каком-то смысле прикольно.

Алексей Натёкин 1:14:31
Ну и не только на бегающих, вот эти вот робо-собаки, они. Такой паркур научились делать и на одной лапе. Breakdance, танцевать и балансировать и на одной, и на двух, и как угодно, и сальто и туда, и сюда. Да, впрочем, и гуманоидные тоже нынче сальто уже умеют делать. Так что смотреть отдельно на забег может быть действительно скучновато, а вот я не знаю. Может быть, и triathlon, вот, а может быть, я не знаю. Ну, сейчас это было бы, конечно, очень расточительно использовать роботов, не знаю, для исторических реконструкций, не знаю, там набег викингов, например. Ну, там какое-то количество роботов так или иначе повредятся, а там ещё и вопросы к пожароопасности с аккумуляторами. Но в какой-то момент это будет прям неплохое развлечение.

Валентин Малых 1:15:36
У меня вопросики на бег викингов. Это как, соответственно, то, как оно началось. То есть, на Англию напали, пожгли и, соответственно, вынесли все ценности в таком виде.

Алексей Натёкин 1:15:49
Ну, как в сериале «Викинги», да.

Валентин Малых 1:15:52
Ну, если там будут другие роботы, я ещё могу понять, но как-то с людьми это уже звучит грустновато, честно сказать.

Дмитрий Колодезев 1:15:57
Вот, а на Арбате же магазин есть шоу-рум с роботами, они тоже по Арбату выпускают роботов гулять.

Валентин Малых 1:16:03
Да-да-да, ну это правильно они делают. Я уже говорил, что гуманное отношение к роботам — залог вашего выживания в будущем. Помните об этом, это важно.

Дмитрий Колодезев 1:16:12
Я видел видосик с боями роботов в клетке, боксерских, или в Сан-Франциско, или где-то клево.

Валентин Малых 1:16:24
Я подписан на этот самый паблик посольства Китая, и они периодически выкладывают всякие прикольные, соответственно, ролики. В частности, у них был ролик с танцующим роботом, и он даже не кринжово танцевал, он, то есть, как бы, танцевал по-настоящему. Да, вот это было прямо интересно.

Алексей Натёкин 1:16:44
Из того, что я недавно видал с роботами, по-моему, Unitree — это одна из больших компаний, которые их выпускают. В общем, на очередной их робособаке. Она, по-моему, была, скажем так, дополнительно укреплена. Ну, то есть, там пример, как эта собака прошибала с собой эту самую стеклянную витрину, прибегала насквозь. Она была ещё и достаточно усилена, чтобы на ней можно было стоять. И мне как раз тогда подумалось, что типа, блин, вот ей скейтборд, а можно было бы гонять верхом вот на собаке.

Валентин Малых 1:17:23
Вот, слушай, а это, по-моему, в какой-то игрушке было, типа, чуть ли не Death Stranding 2. Там у него какое-то средство передвижения, типа, робо-собаки, на которую он ездил. Ну, понятно, что это и в книжках было, но кажется, что вот это вот робоконь, да, это наше некоторое будущее, потому что проходимость, ну, например, какого-нибудь. Мотоцикла, да, или автомобиль, она всё-таки сильно меньше, чем у какого-то четвереногого. Гражданин, ну, гражданин это я громко сказал, ну, какого-то четвероногого робота, который, соответственно, может там пролезть по каким-нибудь горам, где-нибудь там туда-сюда. То есть, если у нас есть какое-то бездорожье, мы хотим пройти по какому-нибудь лесу, то кажется, что пройти по нему с помощью вот такого вот роболошади оно гораздо проще, чем с помощью мотоцикла, например. Руболоси, да, это прекрасная идея. Я чувствую это наше будущее, прям, прям, я предвижу это. На этой позитивной ноте я предлагаю переключиться на следующую новость. Значит, в Сингапуре налажено первое в мире массовое производство тараканов-киборгов. Это совершенно прекрасно, по-моему. То есть они, ну вот на картинке всё видно, они, соответственно, Сделали совместно с коллегами из Японии. Кстати, ну, как известно, Япония — поставщик всякой неведомой фигни с 1945 года. Вот она продолжает. У нас, значит, на таракана вешается, давайте назовем это манжетой, на которую, соответственно, ставится небольшой чип, который позволяет на робота навесить, соответственно, некий орган управления для того, чтобы управлять роем насекомых. Ну, представьте, что у нас этих насекомых там, не знаю, десять тысяч, каждый несет по полграмма взрывчатки, да, и они тебя облепляют, и потом происходит что-нибудь нехорошее.

Дмитрий Колодезев 1:19:17
Вроде как неизрочатка наблюдения. Да, но вообще, черное зеркало, конечно, это уже не фантастика, а производственный роман, фактически. Ну и они используют шипящих мадагаскарских тараканов, достигающих 1,7 см. В нашей деревне они еще какое-то время не будут применяться.

Валентин Малых 1:19:39
Ну, им прохладно, да. То есть, в этом смысле мы пока от них в безопасности. Но слушайте, учитывая глобальное потепление, я думаю, что люди просто смотрят в будущее.

Алексей Натёкин 1:19:48
Ну, Мадагаскарский таракан, он вообще достаточно большой, но кажется, это вопрос времени, пока они не сократят их до размера, хотя бы обычных тараканов. Видео, которое не прогрузилось, оно достаточно крепкое, скажем так, с налаженным производственным процессом по... Зачем мне таракана на маленького духа машины.

Дмитрий Колодезев 1:20:18
Ну, на самом деле, вопрос из каких-нибудь дешевых в сборке роботов, которые обследовали бы завалы или тоннели, он на самом деле актуальный, помимо всяких шпионских применений. В шпионских применениях, насколько я помню, была история про ретрансляторы. Какого-то жука или муху, которая летала, и у неё был микрофончик. Она ретранслировала не очень далеко, на несколько метров, но там дальше стояла более чувствительная аппаратура, которая всё перехватывала. И, в общем, всё это давно уже было у кое-кого. Вот поэтому, ну, прикольно то, что поставили на поток, да.

Валентин Малых 1:21:09
Выпустили закон, который, соответственно, забанил, то бишь запретил всю AI-терапию, да, терапия имеет в виду психотерапия. На мой взгляд, это крайне правильная история, потому что кому вообще в голову могло прийти, соответственно, AI-терапевта? Что-то пытаться сделать со своей головой, но, видимо, у тех людей, кому реально нужна помощь. Вот я только так могу это сформулировать, потому что тут, извините, я немножко уйду в историю. Там, если мы вспомним, один из первых вообще чат-ботов, который стал популярен, был придуман в В шестьдесят, по-моему, в восьмом году, тысяча девятьсот. И назывался он ELIZA. Я думаю, что все так или иначе с потомками ELIZA общались. Кто не общался, обязательно попробуйте. Идея такая, что это был специально. Специально разработанный шуточный психотерапевт, якобы, да, то есть там явно было прописано, что он не настоящий, но тем не менее многим людям нравилось с ним общаться, потому что он общался такими общими вопросами, типа. А что ты об этом думаешь? А почему ты думаешь вот так? Да, то есть, там как такой платоновский диалог, и тут, в общем-то, даже никакого искусственного интеллекта не надо, достаточно там небольшого скриптика для того, чтобы человеку было интересно пообщаться, рассказать что-то про себя. Ну и, может быть, даже ему станет от этого легче. Но в современных условиях я, честно говоря, очень переживаю на эту тему, потому что, как бы... ChatGPT, мы уже про это говорили не раз, да, что ChatGPT, он очень-очень там любит, как бы, ну если грубо выражаться, подлизываться. Да, то есть он тренирован делать человеку приятно. И психотерапия в этом смысле кажется не тот конёк, да. То есть психотерапия — это когда есть некий актор, который понимает. Что здесь есть что, скажем так, поправить, да, что помочь, как указать на некоторые заблуждения, да, то есть, но ИИ для этого, кажется, не предназначен.

Алексей Натёкин 1:23:16
Я думаю, что во-первых, я согласен с тем, что это правильно, что это регулируется, по крайней мере, чтобы часть инфо-цыганщины порезать. То есть народ всё равно будет просить условных ChatGPT и им подобных. Их, ну, не знаю, не то что утешить или ещё что-то, но в общем. Косплеить терапевта, скажем так. При этом, ну, это, конечно, мемы. То количество разной ультра-кринжатины и ситуации, когда реально те же самые ChatGPT доводили людей до суицида. Ну, то есть. Мне кажется, что ну вообще, ну да, пора. То есть я согласен с причинно-следственным анализом, что если человек пошёл к условному, условный ChatGPT за психотерапией, то ну возможно, всё-таки проблема не в LLM, а в человеке.

Дмитрий Колодезев 1:24:23
Слушай, ну я тут анекдот сразу вспомнил. Знаешь, больной лежит такой на койке, там рядом с ним стоит такой хирург с этими самыми, или терапевтами с внушками, и больной говорит, доктор, можно я забуглю свои симптомы? Врачу не занимайтесь самолечением, я сам забуглю. Вот поэтому, как мы вот эту историю видим, регулировать это, конечно, надо, но тут надо понимать, что живые врачи делают с пациентами ужасающие совершенно вещи. Вот и. Иногда даже получают какие-нибудь тюремные сроки в два или три года за то, что убили восемь человек. Например, практически сознательное, совершенно реальный случай. Я могу привести, если надо. Сама по себе идея о том, что мы не обращаем Эмэль. Ошибок, которые не делают люди, но то, что он не делает ошибок, которые люди делают, легко мы как-то не очень замечаем. То есть, да, конечно, регулировать надо, смотреть надо, надо, чтобы кто-то отвечал. Вот, но в целом сказать, что то, что люди ходят к ChatGPT за первичной психологической помощью, а не к другим людям, среди которых половина такие же шарлатаны, как ChatGPT, ну, фиг его знать. Вот ChatGPT хотя бы неуклонно улучшается, понимаешь?

Валентин Малых 1:25:53
Ну, мы хотим верить, что люди тоже неуклонно улучшаются, но тут не знаю, понимаешь, меня вот в этом всем смущает, что ChatGPT — это... Выглядящий компетентно, абсолютный, ну как бы, абсолютный флюгер, да, то есть куда ветер подул, то оно и подул. То есть у него нет никакой, у него нет интенции, да, нет никакой интенции, ни хороший, ни плохой. Это, ну это как бы в этом суть. А вот. Соответственно, у человека может быть интенция плохая, может быть хорошая, но как бы нарваться на плохую интенцию — это в целом довольно экзотично. Да, то есть, чтобы тебя кто-то реально пытался залечить. Ну, это довольно, мне кажется, экзотический случай, что кто-то пытается прямо специально сделать плохо твоему здоровью. Тут скорее действительно большая проблема в некомпетентности. Не знаю, я, видимо, ретроград, мне как-то проще всё-таки с людьми.

Дмитрий Колодезев 1:26:43
Есть психиатры, есть психотерапевты, есть психологи. И вот для того, чтобы в интернете называться психологом с дипломом, достаточно, по-моему, двухмесячных командирских курсов. Вот и огромное количество людей. Я, например, из истории, которые я слышал от своих знакомых. Психолог, который лечит, просто ты поднимаешь трубку, вы молчите туда, и он по молчанию лечит. Психологи, которые... Лечат по фотографии, понимаешь? То есть, вся эта история знахарства теперь называется психологией. И на этом фоне, ChatGPT-логи, которые смотрят живые люди и которую постоянно улучшают, выкатывают, да и да и да и выглядит такой лапочкой.

Валентин Малых 1:27:32
Не, ну в этом смысле, конечно, она не хуже. Я согласен.

Алексей Натёкин 1:27:37
Я вспомнил, на чём у меня мысль прервалась на слове «но». Я вспоминал, что И при анонсе GPT-5 и за три дня до этого при публикации GPT-OSS, OpenAI делали очень много внимания медицинским приложениям и медицинским бенчмаркам. И интересно посмотреть. Короче, может быть, за деньги OpenAI, которые они будут тратить на юристов, эта история ну чуть-чуть разовьётся. Ну то есть, может быть, они неспроста вот так много внимания этому посвятили.

Валентин Малых 1:28:25
Слушай, ну здесь, мне кажется, такая история, что OpenAI идет в те места, которые, в которых, ну, банально много денег. Ну, то есть, если Palantir идет к военным, где много денег, это понятно, то все пытаются залезть в здравоохранение, потому что в США, если, опять же, кто-то не знает, США... Вот этот сектор здравоохранения, он очень-очень-очень денежный. И туда пытаются, ну собственно, можно вспомнить хотя бы IBM с их Watson, как они первые, пожалуй, кто IBM и залез туда. Не очень успешно, насколько я понимаю, но тем не менее они первые, кто это сделали. И, соответственно, продать вот эту свою модель как некий советник какого-нибудь терапевта, да, это вполне себе история. И я думаю, что именно поэтому они туда смотрят, они не потому что они пытаются обезопасить себя от обвинений неквалифицированной психиатрической помощи, вот как-то так.

Алексей Натёкин 1:29:26
Может быть, мы увидим через какое-то время на Hugging Face, что эта моделька FDA approved.

Валентин Малых 1:29:34
Кстати, да, я согласен, да. FDA — это, кто не знает, соответственно, Food and Drug Authority, то есть это специальный орган в США, который занимается одобрением, соответственно, еды и лекарств для того, чтобы попасть на американский рынок. Ладно, я думаю, что здесь можно завершать. Всем спасибо. Подписывайтесь на нас на всех площадках, где вы нас видите и слышите. Обязательно пишите свои комментарии и новости в Mattermost. И, наверное, всем пока-пока.