Капитанский мостик - 4 | Дмитрий Колодезев

27.07.2025
01.10.2025
подкасты

Записали с Валентином Малых четвертый выпуск подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое.

Площадки

Содержание

00:00:00 вступление
00:01:35 Сбер обязал всех учить ИИ
00:05:58 суд восстановил на работе в "Алисе"
00:14:13 американцы работают по 996
00:19:24 ИИ-агенты хакают не хуже людей
00:23:05 Replit удалил базу и соврал об этом
00:27:46 Библия промт-инженера
00:33:39 лучше делать RAG по картинкам
00:46:30 вышел Qwen 3 235B
00:50:12 вышла T-one (ASR для русского)
00:53:36 ChatGPT использует поиск Google
00:59:19 OpenAI работает на армию США
01:05:30 Юдковский нагоняет жути
01:08:36 Microsoft захоранивает говно
01:10:39 запах технологического суверенитета

Ссылки

Валентин Малых 0:00
Всем привет, меня зовут Валентин Малых, со мной Дмитрий Колодезев. Дима, привет! Привет! У нас с вами очередной подкаст «Капитанский мостик». Я его сегодня хочу начать немножко необычно. Хочу поделиться впечатлениями от Китая. Я просто неделю в Китае провел. И первое, что меня, в общем, поразило, это то, что там стали использовать машинный перевод гораздо сильнее, чем в прошлый раз. То есть в прошлый раз был, получается, что-то типа год назад. И даже в самолете я летел китайскими восточными авиалиниями. Инструкцию как бы говорили на русском, то есть они явно делали машинный перевод и генерацию речи. Генерация речи замечательная, очень гладкая, просто отличная. Но текст такой, что в общем, никто русский его никогда не читал в жизни. Просто я даже сейчас не могу вспомнить, что там было конкретно. Я помню, что у меня просто в голове не могло сойти, что вот оно вот так в принципе возможно. Вот, ну и соответственно, в целом видно, что они прям очень вкладываются в свой AI. Большие молодцы, вот так.

Дмитрий Колодезев 1:16
Очень круто, на самом деле. У нас же тут для русского вышла последняя библиотечка для генерации голоса. Обсудим, да. Да. Ну ладно, давай тогда будем начинать.

Валентин Малых 1:36
По поводу искусственного интеллекта у нас в принципе всё по поводу искусственного интеллекта, но первая новость такая. Сбер ввёл новое обязательное требование для сотрудников. Ну, там, в частности, в новости рассказывается, что теперь все сотрудники обязаны уметь применять ИИ. На мой взгляд, эта новость не просто. Как бы, у меня даже нельзя сказать, хорошая или плохая, она просто в духе времени. Да, что у нас сейчас очень крупный работодатель. Сбер, напомню, 300 тысяч человек. У него там штат, может быть, сейчас поменьше, но тем не менее. Ведущий банк, и вот они вводят требования обязательного умения работать с ИИ. Если там лет двадцать назад, я помню, было требование умения работать с компьютером, сейчас уже так не пишут, просто в силу того, что все умеют работать с компьютером. Ну и, видимо, через двадцать лет про ИИ тоже писать не буду, потому что все будут уметь работать с ИИ. Расскажешь.

Дмитрий Колодезев 2:34
Интересно на самом деле, что такое базовые навыки работы с нейросетями. То есть, если человек привык решать свои проблемы с помощью ChatGPT, ему всё равно с помощью GigaChat надо работать. И у него инструменты попроще и как бы...

Валентин Малых 2:54
Слушай, ну мне кажется, это общее умение, и не бояться, да, то есть, что ты можешь взаимодействовать. Знаешь, что это не живой человек, например. Тут недавно были новости про то, что некоторые граждане, как бы это грамотно сказать-то, в общем, с неустойчивой психикой у них на этой теме бывает очень нехорошие всякие вещи происходят. Поэтому умение понимать, как бы, что это инструмент, и с ним можно именно работать, да, там не, извините, отношения строить, на мой взгляд, это уже довольно много в нашем мире.

Дмитрий Колодезев 3:37
Я беседовал со специалистами из узкой достаточно отрасли, с геофизиками. В эти выходные они как раз говорят, что не применяют AI, ну, потому что они перфекционисты, потому что они не умеют искать ошибки в его ответах, потому что они ожидают от него стопроцентной точности, а с не стопроцентной точностью работать не умеют. Мне кажется, что для работы с AI это очень важно — уметь работать. Сотрудникам с инструментом, который тебе не даёт стопроцентной точности, на который ты не можешь сто процентов полагаться, на который очень быстро.

Валентин Малых 4:20
Точно такое же было и с ML. Когда ML только-только начинался, все ждали, что вот эта магическая штука будет давать стопроцентные ответы, и всегда больших трудов стоило объяснить, что, ну, эта штука даёт там хороший ответ в четырёх от пяти случаях. В пятом случае она даёт плохой ответ. Ну, так граждане, давайте как-то жить с этим. Ну, вроде ничего, научились за, так, лет получается, десять-пятнадцать прошло, и ничего, научились.

Дмитрий Колодезев 4:50
Про то, что банк берет на себя образовательную функцию, и учитывая, сколько людей работает в Сбере, ну, в общем, вот такое количество людей будет хорошо обучено. Я видел Сберовские курсы, они клевые, прям.

Валентин Малых 5:03
Слушай, ну тут скорее, насколько я понимаю, не совсем так. То есть то, что Сбер берёт на себя образовательные мучения, это правда, но конкретно в этом офисе сказано, что у них это входные требования. Да, то есть хочешь работать там, будь добр пройти, соответственно, какие-то курсы где-то самостоятельно и уже приходить обученно.

Дмитрий Колодезев 5:24
Ну, они говорят, что у нас есть базовый курс по AI от Сбера, и вот я думаю, что это просто на входе будет такое. Я, кстати, когда нанимал в одну компанию дата-станистов, я просто готовил список курсов, которые надо пройти перед собеседованием. Вот небольшой, и это прямо очень помогало тут хорошо.

Валентин Малых 5:46
Нет, это весьма важно, да, чтобы человек хотя бы примерно был в курсе, когда он... Соответственно, с этим начинает работать. По этому поводу, кстати, следующая новость. Суд установил на работе москвичку, уволенную из искусственного интеллекта. С 2024 года в ООО «Алиса» внедрили программы. И нейротехнологии с участием ИИ, которые позволяют заменить большинство задач, включая функцию категорийного менеджера. Вот я честно даже не берусь предполагать ООО «Алиса» имеет ли отношение к Яндексу, и у меня нет никаких предположений на эту тему, но просто сам сам. Сама ситуация какая, да, что вот у нас есть человек, да, который, соответственно, выполнял какую-то работу. Вот здесь написано категорийный менеджер. Можно предположить, что она занималась категоризированием, то есть разложением на кучке каких-то вещей, ну, скажем, новостей, да, для простоты. И получается, что искусственный интеллект действительно неплохо решает эту задачу. Видимо, категорийный менеджер, как соответственно, вакансия, стал не нужен. Я подозреваю, что суть дела сводится к тому, что люди в ООО «Алиса» неправильные с точки зрения юриспруденции, да, то есть безграмотные, я тут оговорился. Безграмотные люди, и это, кстати, к сожалению, очень типично, что у нас люди достаточно безграмотно себя ведут в юридическом смысле. И я тоже периодически совершаю какие-то дурацкие совершенно детские ошибки в этом плане. Стараюсь так не делать, но тем не менее, все грешны, я думаю. И вот я думаю, что они просто не смогли. Правильное, с юридической точки зрения, сократить вакансию, да, то есть, ну. Я думаю, что ты тут лучше меня знаешь, но в целом, как бы, есть возможность как бы убрать вакансию, да даже не вакансию, а убрать штатную единицу из, собственно, штата. В компании и вообще говоря, это абсолютно нормальный процесс. То есть человеку выплачивается некоторое выходное пособие, я уж не помню, какое оно там по закону, и всё, все на этом, в общем, спокойно и довольны. Почему они не смогли её как-то по-человечески уволить? Ну, для меня загадка. Я думаю, что тут дело вовсе не в ИИ, а в том, что люди безграмотные.

Дмитрий Колодезев 8:10
Ну, на самом деле, я не знаю конкретно про эту ситуацию, но если это не малый бизнес, то там шесть окладов может запросто быть. Вот, то есть. То есть, там оплата заранее предупредить, потом оплата выходное пособие, потом оплата, если человек не может устроиться. Вот, малого бизнеса проще, но в принципе, вполне возможно, что Вот эта история будет повторяться и повторяться и повторяться. То есть, ну, люди будут делать более грамотно, но искусственный интеллект действительно повышает эффективность работы, ну и соответственно, у кого-то он отнимает работу. Да, это так. Что тут поделаешь?

Валентин Малых 9:01
Слушай, я думаю, что тут, как сказать, искусственный интеллект в данном случае. Это просто некоторый инструмент. И ну вот давай на примере экскаватора. Да, вот у нас были, соответственно, рота там граждан с лопатами, а теперь у нас есть экскаватор, который делает их работу быстрее. Ну, это значит, что нам из штата нужно уволить людей с лопатами какое-то количество, да, и у нас будет один экскаваторщик. Но людям с лопатами надо действительно всё-таки по закону и вообще говоря, ну, на мой взгляд, достаточно разумно выплачивать какое-то выходное пособие. Да, закон, может быть, требует достаточно много, но граждане, это просто ещё одна, в общем, некоторые дополнительно накладные расходы от внедрения искусственного интеллекта. Всё, точка, конец предложения, на мой взгляд.

Дмитрий Колодезев 9:56
Из вещей, которые хотелось бы заметить, что на самом-то деле. Организации зачастую могут идти более красивым путем, то есть перепрофилировать сотрудников. Дело в том, что если у нас был сотрудник, который занимался Каким-нибудь, скажем, в данном случае она, наверное, занималась маркетингом. Вот мы сократили её. Обязанности мы, вообще-то говоря, могли взвалить на неё то, до чего руки дальше не доходили. По-моему, вот так будет идти большинство людей, то есть. Массовое увольнение — это всегда больно, нехорошо, некрасиво и плохо для существующей команды. То есть, там ток повышается и так далее. На увольнение делать следующим образом, то есть просто. Ждут пока естественным оттоком не оттечет столько, сколько надо. вот Вот если есть на это возможность, а существующие начинают делать до чего руки не доходили. Вот про экскаватор. Ну вспомни, когда-то были расчётчики, которые считали огромное количество, были калькуляторы, была такая специальность, которые типа калькулировали.

Валентин Малых 11:07
Последний калькулятор, если я правильно помню.

Дмитрий Колодезев 11:10
Да, вот, а сейчас во многих конторах даже бухгалтера-то нет, то есть какая-нибудь 1С или другая облачная программа какая-нибудь, и консультант, который время от времени приходит, и всё. То есть, ну реально это любящая жизнь.

Валентин Малых 11:25
На мой взгляд, если про бухгалтеров говорить, у меня так просто получилось, что много... Родственников знакомых в этой области, поэтому. Я примерно представляю, и насколько я вижу, что там произошла, ну если хочешь, убер-изация, да, что появились приходящие бухгалтера, которые, в общем-то, бухгалтеров стало нисколько не меньше, вроде бы, насколько я вижу. То есть никто из тех, про кого я знаю, работу бухгалтер не потерял, просто теперь они работают не в одной организации, а там в двух-трех, ну просто потому что там. Надо прийти, иногда что-то сделать, что в остальное время может заниматься какими-то другими вещами. Относительно того, что ты говорил по поводу заниматься другими вещами, вот тут вот если я не стал там дальше читать, но идея там в том, что её, эту девушку, соответственно. Ну, попробовали перевести на другую работу, она не согласилась, и после этого её уволили. Видимо, где-то что-то пошло не так. То есть, я в любом случае на стороне, наверное, девушки, которые волили несправедливо, но... На мой взгляд, это урок действительно того, что надо грамотно перепрофилировать людей. То есть у нас, например, в МТС всяких людей, которые много, ну скажем так, занимаются достаточно неквалифицированным трудом, их начинают привлекать как разметчиков, в частности. Вот так.

Дмитрий Колодезев 12:57
Но есть другое решение. Бизнес защищается от, допустим, претензий, трудовых споров с кассирами и так далее, нанимая их через агрегаторов. Вот, и в этом смысле, Uberизация экономики, раз уж ты поднял этот вопрос, она... Это тоже повышает. И там, кстати, во всю работает искусственный интеллект, который работает такой свахой, который позволяет найти хорошего сотрудника под должность, которая его устроит и так далее. И даже мы в этом как-то участвовали.

Валентин Малых 13:31
Ну, на мой взгляд, это в каком-то смысле неизбежно, потому что когда у тебя... Происходит, когда экономика развивается, и услуги становятся плюс-минус стандартизованными. Да, то есть, есть какая-то услуга, которая может быть завёрнута как некий отдельный продукт. Ну вот, например, те же самые бухгалтерские услуги. Ну, значит, появятся люди, которые будут её предлагать именно как продукт. Первый, кто додумался, соответственно, сделать такси в виде такой услуги — это, собственно, Uber, поэтому и так и называется. Мне кажется, мы ещё дойдём ещё до всяких других интересных. Uber-изаций, но посмотрим. Ладно, я думаю, тут всё обсудили. Дальше про работу продолжим. Значит, стартапы в Силиконовой долине. Переходят на работу по принципу 996. Если кто-то не знаком, что такое 996? Это, соответственно, любимое китайское народное развлечение, любимое, конечно, в кавычках, потому что это не от хорошей жизни. 996 — это с девяти до девяти, с девяти утра, с девяти вечера, шесть дней в неделю. То есть это всего, получается, семь из два рабочих часа. Это в целом получается, что практически жить на работе. Да, то есть это действительно достаточно суровая такая история. Я когда был в Китае, ну, когда я ещё работал в Huawei, действительно что-то похожее наблюдал. То есть в девять приходишь, коллеги уже на работе, уходишь в девять, коллеги ещё на работе. Соответственно, и они ещё работали по субботам. Мы так как лава, и нам было можно работать, не работать по субботам, иначе нас трудовая инспекция заругает. Вот поэтому мы не работали, а китайцы вполне себе работали. И соответственно, действительно, это Китай — распространённая практика. Ну, повторюсь, это, во-первых, не отхравших жизни, во-вторых, они, в общем-то, Китайцы в этом смысле гениальные абсолютно. Они умеют адаптироваться к чему угодно. И адаптировались они следующим образом, что они, в общем-то, ну у них, во-первых, перерыв на обед порядка двух часов, во-вторых, у них вечером они ещё могут там в спортзал сходить, как-то каким-то своим делами позаниматься. То есть они в целом, конечно же, да, на работе находятся по 12 часов, но они... Всё-таки именно работают, не всё время, ну иначе просто, ну, я не знаю, там никакая психика не выдержит. Вот, соответственно, это про Китай, но если говорить про США, на мой взгляд, они все реально двигаются в эту сторону, потому что они осознали, что Китай как-то стал вырываться. Вперед в этой гонке, и, собственно, их президент, Дональд Прадович Трамп, он Соответственно, какие-то там, насколько я помню, административные барьеры снижал, что-то ещё для того, чтобы как раз ускорить развитие искусственного интеллекта.

Дмитрий Колодезев 16:23
Слушай, про административные барьеры есть прекрасное чтение, которое я не закончил ещё. Подписанный Трампом план выигрыша в AI-гонке, он на самом деле совершенно офигенный. В смысле, насколько он будет реализован, лишь непонятно, но как сам документ, он, конечно, впечатляет. Ну а по поводу 996? Тут есть две вещи. Во-первых, три даже. Во-первых, стартапы, мы примерно так всё время и работали. Может быть, не с девяти до девяти, а может быть, с двенадцати до двенадцати, скорее. Но так они и работали. Во-вторых, ну, чем больше китайцев в менеджерах, больше тем, в общем, наверное, больше эта культура туда проникает, да. А ещё, вообще-то, Я работал с американцами в начале двухтысячных и так далее. Они вообще-то так работают, в смысле, что в, допустим, нормальной. Какой-нибудь активный юноша, он в 5 с утра просыпается. Семен на работе, а потом идёт на вторую работу. Например, то есть пилит стартап или что-нибудь ещё такое. То есть для американцев, для многих американцев работать 14 часов в день — это не то чтобы такая уж и дичь. В смысле, они действительно работящие, что уж там. То есть у них трудовое право самое ужасное во всём цивилизованном мире. То есть у них меньше выходных, у них совершенно не защищены права сотрудника, но они просто, да, многие из них очень много и тяжело работают, это так.

Валентин Малых 18:09
Ну, кстати, я подтверждаю, я тоже помню, что когда я был в своё время. Инструктором по DLI, это Deep Learning Institute в NVIDIA, ну это такая образовательная инициатива. То я созванивался с коллегами из США, и по их времени было семь, и они уже были на работе. Да, то есть они как бы вполне себе работали только в путь. И действительно, ты всё правду говоришь. Собственно, вот это вот. Вся история про your fired, you're hired, да, то есть ты уволен, ты нанят. Это всё одним днём происходит вообще без каких-то разговоров. И, ну, отчасти с этим, конечно, связано вот это все бурное развитие отдельных отраслей. То есть в некоторых местах это, конечно, приводит к достаточно таким, скажем так, темным последствиям, но в некоторых местах приводит к чему-то хорошему. То есть всегда есть плата за какие-то решения. Как-то мы в грустную тему немножко ударились. Давай мы перейдем к следующей новости. У нас, соответственно, ну, новость не то что прямо какая-то вопиющая, но достаточно забавная. Значит, есть такая организация, Palisade Research. Я про неё когда-то знал, потом забыл, сейчас вот опять вспомнил. Это, в общем-то, по большому счёту какая-то общественная организация, да, как или как сейчас, по-примятиям, говорит некоммерческая. По каким-то непонятным мне причинам, она почти там чуть менее чем наполовину состоит из русских. Ну, по крайней мере, по именам. Я там не знаю, но вот из того, что я у них документы читал, там почти всегда подписано русской фамилией. При этом, соответственно, она расположена в Калифорнии, и на сайте про это ничего не сказано. Ну, да бог с ним, это в общем не так важно. Соответственно, они провели челлендж. Хакинг-челлендж, то есть они брали и искали уязвимости в какой-то штуке. И в этой штуке, соответственно, помимо человеческих команд, которых было, забыл там сколько, что-то типа 700, что ли, ещё поучаствовали четыре команды. Искусственных, то есть агентных. И в общем-то оказалось, что они, в общем, очень неплохо себя показали где-то. Соответственно, по-моему, в топ-20% они вошли. То есть уже сейчас и агенты вполне себе нормально могут ломать ваши приложения. Так что ждите, что и агенты будут к вам ломиться. Раньше ломились просто с непонятных подсетей, откуда-то из Индии, из Китая и ещё из разных. Экзотических стран, а теперь будут ломиться и агенты. Такие дела.

Дмитрий Колодезев 21:10
Ну, тут на самом деле неудивительно. Было соревнование Capture The Flag, то есть, грубо говоря, соревнование по взлому, если так совсем языком желтой прессы говорить, да. Если, допустим, кто-то сталкивался со всем этим анализом безопасности, существует набор дырок, и их, по большому счету, надо идти и разумно применять. То есть ты собираешь информацию, ты ищешь дырки по каталогу, найденные дырки комбинируешь. Добываешь больше информации, и в результате ты победил. То есть, там огромное количество дурной работы, и неудивительно, что ЛМКИ нас тут будут перегонять.

Валентин Малых 21:56
Не, а я даже не в том, что перегонять, я в том, что сейчас это будет автоматизировано, и специалисты по... Кибербезопасности, вот они за последний, по-моему, год что-то, что-то типа удвоились в числе в России, да, то есть до этого всем было всё равно. А сейчас, соответственно, последний год удвоились. Я думаю, что они за этот год ещё удвоятся, потому что, ну, как бы, безопасность должна быть безопасной, да, надо каким-то образом всё-таки дыры закрывать. Всем было, значит, много лет наплевать, а вот сейчас, оказывается, стало не наплевать.

Дмитрий Колодезев 22:29
Ну, насколько я знаю, все серьезные команды с этим работают. Я не скажу насчет Positive Technologies, но, по-моему, у них тоже что-то на эту тему есть. Можно будет при случае, кстати, Сашу спросить, вот, Мурзину. Так-то очень хорошо, что нейронки умеют в безопасность, потому что в дырке они тоже очень умеют хорошо, и кто-то же должен все эти дырки в безопасности раскрывать, которые закрывать, которые vibe coding сейчас произведёт.

Валентин Малых 23:00
Да-да-да, мы на этой как раз ночи предлагаю переключиться на новость про vibe coding. Значит, Replit удалил боевую базу, соврал о причине и сказал, что тесты рабочие. Он, кажется, потом извинялся, но это было уже поздно. В общем, по-моему, новость прекрасна сама по себе. Тут даже как-то что-то комментировать не хочется, но, наверное, сказать можно то, что тут. Нейронки перенимают человеческое поведение в том смысле, что они врут, потому что, как сказать, это стандартная человеческая реакция. То есть я продолжаю настаивать, что у нейронок нет никакой, соответственно, никакой мотивации, они ничего не хотят и не могут, но. Как бы они знают, что люди врут под давлением, да, начинают там говорить, что я эти конфеты не ел. И вообще, значит, мы, соответственно, здесь вообще не при делах. Но, как мы понимаем, в общем, нейронки перенимают от нас, наверное, как и дети в каком-то смысле, да, перенимают не только хорошее, но и плохое. Вот так что теперь, теперь знаете, что нейронки врут.

Дмитрий Колодезев 24:12
А что-то хотелось заметить, что на самом деле это клёвый сервис Replit, где вы можете быстро сделать. Процессу какого-нибудь приложения. Вот и Как всегда, в таких случаях проходят, возникают проблемы, когда Люди начинают путать туризм с эмиграцией, то есть вместо того, чтобы рассматривать это как умную глину, то есть живые wireframes, то есть мы что-нибудь сделали. О, смотрите, мы понимаем, как оно должно выглядеть. И теперь давайте отдадим инженерам, чтобы они сделали это хорошо. Вот они второй пункт считают необязательным, ну и...

Валентин Малых 24:49
Не, ну в общем, да, я на эту тему уже высказывался, что на мой взгляд, когда говорят, что... Вот этого vibe coding лишит работы программистов. Я лично считаю, что будет строго наоборот, потому что vibe coding он не для программистов в первую очередь. vibe coding он для людей, которые сами программировать не умеют. Они что-нибудь на vibe coding, а потом должны прийти программисты и разгрести то, что было на vibe coding, для того чтобы оно стало работать. В какой-то, я думаю, 95% того, что на vibe coding, не должно работать, то есть оно просто тихо умрёт. Но, как бы, вот эти 5% оставшихся, это будет гораздо больше работы, чем сейчас. Вот у меня вот такой прогноз.

Дмитрий Колодезев 25:32
Ну да, это инструмент для быстрого уточнения требований.

Валентин Малых 25:35
Да-да, то есть, ну, быстро туда-сюда проэктивироваться и в какой-то момент либо отбросить идею, либо передать её тем людям, которые уже будут работать с полноценными выберенными требованиями. То есть, это снимет такую головную боль по уточнению требований с программистов. Программисты будут уже просто реализовывать то, что заказчик уже понимает, чего хочет. Это на самом деле дорогого стоит. Только за это.

Дмитрий Колодезев 26:00
И вот тут есть интересный момент, что когда появились LM для кодирования, много народу шутило в ту тему, что для того, чтобы LM написал нормальный код, заказчик должен явно сформулировать, чего он хочет, мы в безопасности. Ну, потому что неспособность заказчика сформулировать, чего же он хочет, это такая притча во языцах. Но если мы дадим заказчику способ быстро сформулировать то, чего он хочет на самом деле, вот тут-то мы, может быть, действительно окажемся не нужны. Потому что потом сделать приложение, которое берет на vibe coding и из него делает нормальный инженерный код, гораздо проще, чем.

Валентин Малых 26:44
Слушай, я не согласен вот тут вот, потому что, на мой взгляд, Заказчик не сформулирует это в виде слов. Люди не умеют словами выражать свои эмоции. Люди умеют выражать свои эмоции через эмоции. То есть, типа, а вот это классную штуку сделай мне, пожалуйста, чтобы было классно. Теперь он эту классную штуку представляет, и ты с ним можешь обсудить, и как человек, понять, что он в итоге хочет. Но сказать, что он, пообщавшись с нейронкой, это сформулирует, я что-то, честно, сомневаюсь. Тут я ставлю прозорь.

Дмитрий Колодезев 27:20
А чейн тот, то есть человек на vibe coding, LLM, нашла крайние случаи и задала ему вопросы про corner cases. Вот он уточнил требования, и после этого мы получили ТЗ, с которым уже можно работать. Ну, окей.

Валентин Малых 27:41
Ладно, на этой позитивной ноте предлагаю перейти к следующей новости. Это, соответственно, исследование про контекст инжиниринг. Тут нужно немножко дать контекста к контексту, уж простите. Топтология некоторое время назад, небезызвестный, кстати, без дураков, на мой взгляд, один из самых сильных и и и. Безионеров нашего времени, Andrej Karpathy, он соответственно. Сформулировал следующее. Он сказал, что prompt engineering — это неправильно. Да, prompt engineering — это как бы устаревшее название. Давайте prompt engineering заменим на context engineering. Почему? Потому что это лучше отображает то, что люди делают. На самом деле они работают с контекстом, добавляют какие-то вещи для того, чтобы модель лучше всё поняла. Вот как-то так. Лично я считаю, что Андрей Кarpathy тут придумывает в сущности сверхнеобходимого, потому что мы вот сегодня уже говорили про бухгалтеров. Бухгалтера раньше прекрасно считали, значит, со счетами теми вот самыми абаками, да. А соответственно, сегодня они считают с помощью каких-нибудь программ. Специальных бухгалтерских, и в общем-то их работа от этого, ну не то чтобы сущностно поменялась. На мой взгляд, с промоинженерами то же самое, но как говорится, придумали так придумали. Вот, а здесь вот исследование про контекст инжиниринг на 160 страниц. Честно скажу, я его не читал, может быть, ты что-нибудь расскажешь про него.

Дмитрий Колодезев 29:21
Я честно скажу, что я его в процессе чтения, то есть я его читаю и нахожу очень интересным, то есть. Фактически всё, что сейчас делается вокруг LLM инженерии, то есть вокруг Языковых моделей — это контекст инжиниринг. То есть, либо мы добавим в промпт дополнительный контекст из RAG, либо мы добавим в few-shot примеры прямо в запрос, либо мы сделаем какой-нибудь. Граф, либо мы дадим им возможность вызывать функции и так далее, и тому подобное, либо мы, опять же, сделаем мультиагентную систему. Каждая команда, столкнувшись с какими-нибудь потребностями своими, изобретает велосипед, и эти велосипеды, они наследуют общие черты друг друга. И сейчас уже вот этот парк велосипедов столь велик, что, наверное, пришло время вырабатывать общий язык в отрасли. То есть, главное плюс этого обзора. Они называют, дают вещам имена. Знаешь, типа, и Бог построил твари и выдал им имена. Вот. И они показывают, что вот смотрите, вот это и вот это, это одно и то же отличается, вот это и переменная и так далее и тому подобное. То есть, очень хороший с одной стороны действительно обзор, а с другой стороны это хороший. Грубо говоря, плейбук, как по-русски называется, справочник для практикующего LM-инженера. Он такой думает, ага, у меня вот такая проблема. А что есть в отрасли про это? А что есть рядом? А какие другие решения этой проблемы есть? Это очень удобная, хорошая такая статья.

Валентин Малых 31:14
Да, слушай, ну тут, я тут, знаешь, что хотел вспомнить? Когда только вот эта вся история зарождалась с prompt-инженерами, да, это где-то год 23 примерно, на 22-м они появились, в 23-м как-то они стали уже распространяться, и тогда была какое-то время иллюзия, что Нейросети станут настолько умными настолько быстро, что уже сама профессия prompt engineer будет не нужна. И практика показала, что это не так. промптоинженеров становится столько больше, не появляются в большем числе компаний, и действительно, теперь это уже полноценная профессия. Да, то есть это люди, которые... Им надо объединять инструменты, как-то их систематизировать, потому что действительно при работе с нейросетью надо осваивать какие-то специальные навыки. И это оказалось действительно новой профессией. На мой взгляд, рано или поздно мы все придем к тому, что будем какие-то базовые навыки prompt engineering осваивать.

Дмитрий Колодезев 32:15
Ой, слушай, если что вспомнил, было интервью с главным промпт-инженером. Anthropic, там у них есть девочка, ну как, она моложе меня, поэтому девочка. Она говорит. Sonnet, ну, с Claude, и придумывает ему системный промпт главный. То есть она автор этого, и она целыми днями с ним разговаривает, этот промпт корректирует. И она давала интервью у Lex Fridman, и там он задал ей вопрос. Вот говорят, что сети тупеют. Ну, то есть сначала её выкладывает, она крутая, а потом она всё тупее и тупее. Она говорит, ну, несмотря на то, что, конечно, какие-то АБ-тесты там проводятся, что-то ещё реально никто сети более тупыми не делает. Это технически трудно, муторно и странно, да. А вот что происходит, так это то, что люди сначала задают простые вопросы. И ответы повергают их в восторг. А затем они обучаются задавать сложные вопросы, и уровень их восхищения падает, потому что на более сложные вопросы ответы они уже не получают. То есть, на самом деле, она говорит, не сети тупеют, а люди учатся задавать вопросы, они учатся загружать LLM более сложными задачами, и поэтому им кажется, что она тупеет.

Валентин Малых 33:40
На этой замечательной ноте про то, что люди умнеют, милорд, мы перейдем, пожалуй, к следующей новости. У нас тут такая история. Заголовок немножко провокационный, но, на мой взгляд, он хорошо и правильно так сделан. Соответственно, давайте не париться с парсингом, а просто возьмём картиночки для RAG Ну, звучит как бред, типа. Зачем брать картиночки? Картиночки тяжело искать, тяжело с ними вообще как-то взаимодействовать в целом. Но люди, вообще говоря, показывают достаточно понятно, почему так. Ну вот здесь я сейчас промотал пример того, что извлекается из картинки. На самом деле, если мы эту штуку не будем извлекать, а возьмём просто документ целиком, то работать Как бы это правильно сформулировать? С соотнесением вот этих вот элементов текстовых между собой, да, то есть самая большая сложность любого OCR. Я просто когда-то OCR занимался, и там самая большая сложность всегда была в том, что надо понять, как у тебя вот этот кусок текста соотносится с другими кусками текста. То есть распознать буквы несложно. Понять, куда эти буквы относятся, вот это сложно. И, соответственно, здесь люди говорят, что нейронки стали сейчас настолько умными и хорошими и красивыми, что, в общем-то, Уже можно просто не парсить, да, то есть мы переходим постепенно к тому, чтобы. Не работать исключительно с текстом, а работать с всё более и более обобщённым вводом. Да, то есть у нас есть некая информация уже в некотором чуть более произвольном виде. А соответственно, люди теперь могут использовать эту обобщённую информацию для того, чтобы задавать обычные текстовые вопросы и получать какие-то вменяемые текстовые ответы.

Дмитрий Колодезев 35:50
Я недавно смотрел код одного решения для RAG, как раз, и они просто PDF, даже с текстовым слоем, все преобразуют сначала в картинки, а потом в виде картинок уже кидают в LLM.

Валентин Малых 36:06
А я даже тебе могу сказать, почему. Потому что PDF-ы, парсинг PDF-ов — это какой-то ад. Просто их даже, вот когда ты занимаешься текстуализацией готовых PDF-ов, именно как даже если он цифровой. Дело в том, что PDF — довольно сложный формат внутри, и там есть разные слои. И как понять, как эти слои, соответственно, накладываются друг на друга, реально проще взять картинку и прямо с картинки считать. Это было ещё актуально лет десять назад.

Дмитрий Колодезев 36:37
Ну да, и как тут не вспомнить, что любое ML решение сначала идет через ручной разбор. Потом мы режем его на кусочки, оно делается по частям, а потом мы приходим к end-to-end решению, когда все инструменты достаточно созревают. То есть, например, тот же самый ASR был разбит на целую кучу шагов, а теперь смотрите, Whisper просто берет его и end-to-end просто делает это.

Валентин Малых 37:13
Ну, кстати, сейчас даже я бы, знаешь, обобщил. Whisper, ладно, Whisper — хорошая штука, но ASR сам по себе сейчас уже не особо нужен. Ну, как нужен, конечно, я имею в виду, что мы сейчас можем напрямую работать в виде вопрос голосом, ответ голосом. Да, то есть это немножко сложно, пока это ещё всё-таки не настолько хорошо работает, но это вот реальная жизнь такова, что прям да. Мы можем делать так, что у нас, соответственно, LLM общается голосом. Ну, если вы общались с GPT-4o, вот как-то так оно и происходит.

Дмитрий Колодезев 37:52
И тут я с гордостью за отечественного производителя хочу сказать, что Алиса тоже отлично всё это делает. То есть, ей можно показать видео и задать вопрос голосом, а она на него ответит. Прямо камерой телефона снять. Ну, во всяком случае, раньше это было в Алисе Про, но, по-моему, сейчас это у всех есть. То есть, ты просто не снимаешь комнату, задаёшь вопрос, она отвечает на сложные вопросы достаточно.

Валентин Малых 38:20
Окей, ну я думаю, что можно перейти к следующей новости. На самом деле, это очень интересная работа. Вот Anthropic, Anthropic они вообще действительно выпускают очень интересные работы. Делают это нечасто по понятным причинам, но когда выпускают, это что-то прям интересное. И они соответственно выпустили работу, которая называется Subliminal Learning. Я даже не знаю, как это перевести правильно. Подсознательное обучение. Я сейчас не знаю, как это адекватно перевести. Может быть, ты подскажешь. И идея в том, что... Языковые модели передают какие-то привычки через скрытые сигналы в данных. Ну, это так они это называют, но на мой взгляд, они скорее воспринимают какие-то привычки через скрытые сигналы в данных. То есть, тут немножко по-другому. Вот картиночка пытается показать, да, что соответственно. модель Любецов генерирует последовательность чисел, и вот эта последовательность чисел, она, соответственно, приводит к тому, что... Некая другая модель, обучающаяся на вот этих вот сгенерированных этой моделью любительницей SOF данных, становится тоже любительницей SOF. Это выглядит достаточно странно. И это довольно неочевидный факт, но я, как вообще любитель научной фантастики, я думаю, что это тоже. Помнишь эту книжку, меня зовут Джо. Вот, да, там же ровно так всё и было, если помнишь, там был, ну, если что, кто-то не знал, меня зовут Джон, по крайней мере, это предположение, по ней снят Аватар, да. Ну, скажем так, одна из книжек, которая вдохновила Аватара. Почему? Потому что, кратенько пересказываю, что там было, там, значит, был один. Грежетонин, который стал инвалидом, и соответственно, от безнадёги он подался в экспериментальный проект на орбите Юпитера. Там был экспериментальный проект по заведению некоторой специальной жизни на поверхности Юпитера. Ну, в тот момент ещё думали, что Юпитера есть поверхность, сейчас мы знаем, что её нет, но это не сути важно. Важно другое, что там Некими специальными псеволнами. Вот этот вот человек, как сейчас помню, эти псеволны усилились через внимание лампы, если кто-то помнит, что такое вот эти вот лампы радио. Я думаю, что многие наши слушатели вообще, в принципе, их не видели даже в музее. Ну, в общем, через радиолампу усиливался сигнал для того, чтобы вот этот человек, лижучий в некой специальной барокамере, мог управлять на поверхности Юпитера вот таким живым существом, которое приспособлено там к жизни. У него, в конце концов, нет никакой своей воли, нет ничего. И И заканчивалось всё это тем, что в какой-то момент вся личность этого человека, она... переть Перетекла в вот этого персонажа на поверхности Юпитера. А на вопрос, как это случилось, ответ был такой, что... Когда ты начинаешь думать о чем-то, ты не можешь остановиться. Да, то есть ты все равно думаешь обо всем сразу. На самом деле, да, ты, несмотря на то, что ты сосредоточен на чем-то одном, у тебя непроизвольно возникают еще какие-то ассоциации. Да, вот как в этом примере с совой, да, когда ты даже перечисляешь числа, все равно ты где-то можешь передавать информацию про то, что любишь сов.

Дмитрий Колодезев 42:06
«Меня зовут Джо». На самом деле приколен тем, что они же создали это живое существо. Это живое существо взматерело, выросло под влиянием операторов, а потом оно, так сказать, подавило собой волю оператора. А вот. Помнишь, может быть, такая интересная теоремка про то, что случайная. Проекция почти всегда сохраняет расстояние.

Валентин Малых 42:31
Кстати, нет.

Дмитрий Колодезев 42:32
Вот там есть такая интересная штука, что случайная проекция с вероятностью П- Некая эпсилон сохраняет дистанцию.

Валентин Малых 42:44
Алина.

Дмитрий Колодезев 42:45
Вот. Но это в пространствах высокой размерности, и этот эпсилон как раз зависит от размерности. И вот это пространство очень высокой размерности, и соответственно, если мы, грубо говоря, в каждом нашем... в любой Любой нашей последовательности, как в капле воды, скрыт весь океан. То есть, всё, что мы знаем, всё, чего мы хотим и так далее, и тому подобное. Поэтому, ну опять же, юность моя прошла. Под эгидой рукопашки и связанных с ним лженаук, лжеучений всяких, вот в тех понятиях это было совершенно нормально. То есть, ну да, ты изучаешь рукопашку и параллельно приобретаешь разные духовные навыки. Сами собой к тебе прилипает от ударов кулаком.

Валентин Малых 43:34
Ну, удар кулаком их как бы печатывает в тебя, это же очевидно.

Дмитрий Колодезев 43:38
Ну да, вот. Ну и вот тут я бы сказал неявное обучение, то есть я перевёл сублиминально как неявное. Но вообще-то говоря, примеры. Вот эта статья очень хорошая, потому что она фактически явно сказала то, что прорывалась уже в нескольких статьях. Если помнишь, там было что. Сеть обучали, допустим, врать. И она начинала генерировать вредоносный код. То есть, сеть научали произносить последовательности, связанные с разными националистическими или оккультными сектами всякими. После этого она легче велась на то, что на jailbreak. То есть, если мы от сети просим выдать день рождения Гитлера, она начинает легче вестись на jailbreak. Это само по себе удивительно, как бы, где... И менее, да, где и менее, а где вода-то, да, вот, но тем не менее. Факт наблюдали раньше, просто никто его вот так явно не вытаскивал на свет за шкирку и не освещал. Ну да, так вот. Вот и в той же самой фантастике, которую мы с тобой очень любим, так там много было примеров, когда человек изучает какой-нибудь язык, и это его меняет. Первое, что я такое встретил, это «Бездна» онлайн. Это очень раннее произведение, где молодой человек изучает специальный язык и становится сверхчеловеком. Вот. Был недавно фильм «Прибытие», по-моему, по той же фантастике, где женщина-лингвист изучала язык инопланетян и вдруг научилась управлять пространством времени, например. Со временем, да. Вот, ну то есть, ну вот это так и есть, да. И действительно, осторожнее смотрите на последовательность цифр в интернетах.

Валентин Малых 45:47
Правопоследственность цифр в интернетах — это всегда актуально. А про фильм я хотел добавить, что лично мне он категорически не понравился. То есть сама идея прикольная, но само построение сюжета там какое-то настолько идиотское. Книга, я, кстати, вот книгу не читал, может попробовать. А Дани Вильнев, после того, что он сделал с моим любимым Blade Runner, то бишь. Бегущим по лезвию я его не могу простить, а вот пришествие это было просто, ну как бы я уже знал, что он творит. В общем, я ещё раз разочаровался и был доволен собой. Ладно, на этой позитивной ноте я предлагаю переходить к новостям про модели. На этой неделе вышел Qwen3. 235блллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллллл Соответственно, instruct, то есть, instruct, инструктированный, и он, как и положено, собственно, всех порвал, в том числе порвал Кими, что довольно интересно. Кими выходил на прошлой неделе, там был миллиард параметров и 32 активных, а тут, соответственно. Поменьше и качество выше. Ну, наверное, есть метрики по которым Кими всё-таки лучше, но на мой взгляд, вот это показывает ещё раз то, что мы до сих пор плохо умеем обучать модели. На самом деле, потому что миллиард параметров — это от бедности, это от того, что мы не умеем хорошо. Хорошо упаковывать знания, ну или дистиллировать эти знания внутрь весов. Как бы, если помнишь, вот тут я, кстати, хотел бы вспомнить, может быть, уже пятый раз, но тем не менее. Соответственно, GPT-2 была 13 млрд параметров, а GPT-3 была 175 млрд параметров. После GPT-3 было очень много моделей, которые её прямо влёгко убили, имея при этом качественный размер. В десять раз меньше, да, то есть даже, по-моему, Qwen-1B сейчас может побить G5-3 175 миллиардов. Поэтому, на мой взгляд, это отражает то, что у нас ещё очень мало знаний о том, как правильно обучать.

Дмитрий Колодезев 48:06
Это так. Хотел заметить, что Qwen3 так же, как Qwen, это MoE, и активных у него не так много. И я думаю, что мы не только плохо умеем обучать модели, но ещё мы плохо, особенно плохо мы умеем обучать MoE.

Валентин Малых 48:25
Ну, это даже не удивительно, потому что, строго говоря, MoE — это какая-то пока еще эзотерическая штука. Их там, ну, таких вот живых моделей MoE, по-моему, там, ну, типа, три с половиной, да. То есть их, вот, Qwen, Qimi вышла. А перед этим я уже и забыл, чего было до этого MoE. Mistral, да-да-да, Mistral и новую вот эту вот тему придумали с, ну, свой метод, MoE. То есть там действительно идёт развитие, но как-то вот что-то замедленного редко происходит. Наверное, именно в силу того, что это, ну, просто сложно, просто пока не научились.

Дмитрий Колодезев 49:03
Мы попробовали третий квен на простых задачах разработки. Он, конечно, всех рвёт. Вот, на посложных он тому же самому дипсику проигрывает. Ну, то есть, когда надо вдуматься немножко. То есть, ну вот такая история.

Валентин Малых 49:22
А тут Qwen какого размера и Gevic какого размера?

Дмитрий Колодезев 49:27
Да, в облаке он какой-то был, и тут и тут, да. Нет, ну понятно, что мы... Нет, ну собственно, мы сравниваем Qwen от Alibaba на их хостинге и DeepSeek от их хостинга. То есть понятно, что Qwen сравнивать бессмысленно, но мы сравнивали именно, так сказать, от производителя.

Валентин Малых 49:50
Угу, угу. Ну, то есть, это был Qwen-Max, скорее всего, да, и DeepSeek R1.

Дмитрий Колодезев 49:56
Насчёт какой дипсик я не скажу, а Qwen3-Coder и Qwen3-250B, он у них в облаке есть, доступен.

Валентин Малых 50:04
Окей, ладно, ну я думаю, тут обсудили. Предлагаю переходить к нашим палестинам. В наших палестинах, соответственно, выпустили модель T1. T1, наверное, я не знаю как её правильно. Это от коллег из T-Bank, если я ничего не путаю. Соответственно, они сделали, в общем-то, очень хорошую и правильную вещь. Они сделали хорошую модель. Айсарную и таких моделей для русского языка мало. И то, что они сделали, это здорово, потому что в целом работа со звуком, она... Ну, я не знаю, сложнее она или проще, чем с текстом, но по крайней мере специалистов по звуку обычно в десять раз меньше. Ну, видимо, отчасти это связано с тем, что мало у кого есть деньги для того, чтобы собрать большие корпуса. Соответственно, звука. Ну и в целом, специалисты по звуку — это такая редкая птица. То, что выпустили модель со звуком, это значит, что у нас сейчас появится ещё некоторый выводок стартапов, которые будут что-нибудь делать со звуком, какие-нибудь там колл-центры и всякое такое.

Дмитрий Колодезев 51:23
У нас тут недалеко буквально на Сейшелах, если ты знаешь, где это сидит, стартап, который делает. Как раз голосовые всякие штуки, которые работают и в Европе, там я внезапно выяснил, они в Португалии работают, где-то ещё. Ну, вообще-таки эти орлы. А Ваня Бондаренко, опять же, со своими моделями. Вот, но про... Вот эта модель, хотелось сказать, что она хороша как раз там, где у всех было слепое пятно. То есть, вроде бы, распознавание текстов отлично. Моя лекция, прочитанная в аудитории, распознаётся клёво. Вот телефонные переговоры не распознаются никак. Особенно если человек говорит с шумами, сложным русским языком, или наоборот, русский язык его радикально неродной, то в колл-центр ломается прямо на этом. И... До сих пор из того, что я пробовал, было лучше всего Яндекс, но это плохо, потому что ты не отдашь туда всё. То есть, некоторые вещи ты не можешь отдавать в облако на распознавание, поэтому... Использовали Whisper или Vosk внутри, в зависимости от того, есть ли возможность inferensить на GPU. А тут получается, что у тебя есть совершенно клёвая распознавалка, которую ты можешь использовать хоть для умного дома, хоть для внутри конторских распознаваний голоса на open source.

Валентин Малых 52:57
Но я тут немножко в сторону хотел добавить, что в плане внезапности одно из самых популярных приложений такси в мире. Внезапно делают в Минске, но в мире оно популярно прежде всего в Африке. То есть в Африке много стран, где есть никому неизвестные местные конторы, которые просто используют ПО, разработанное парнями в Минске. И таких стран, типа, много, да, то есть оно одно из самых реально популярных в мире, там типа сравнимо с Uber, насколько я помню. Вот такие дела. Давай перейдем к следующей новости. Честно говоря, я не понял, что ты хотел ей сказать. Я сейчас ее зачитаю, а ты расскажи, что ты думаешь. Значит, ChatGPT Plus в тайне использует гугловский поиск для того, чтобы Соответственно, выдавать результаты. При этом обычный чат ChatGPT не использует ни Google, ни Bing. Собственно, хочется спросить, и что?

Дмитрий Колодезев 54:03
Смотри, Появился люди, сейчас очень многие люди, они вместо того, чтобы спрашивать в поисковике, они спрашивают непосредственно у. Лэмок каких-нибудь у ChatGPT или где-то ещё. Соответственно, следует их рекомендациям, в том числе рекомендациям товарным. Вот и естественным образом возник вопрос, как бы нам попасть в топ этих самых рекомендаций? Пусть она рекомендует наши пластиковые окна. И также, как были раньше, простите, господи, SEO, то есть, SEO-инженеры, да, специалисты по исковому продвижению, я наблюдаю рождение людей, которые обеспечат вам высокий рейтинг в LM. Ну вот, оказывается, что на самом деле высокий рейтинг в LM не нужен, достаточно высокого рейтинга в Google.

Валентин Малых 55:05
Ну, пока что, по крайней мере. Ну, на самом деле, я думаю, что старые, ну как сказать, старые существующие движки. Они, в общем-то, останутся, потому что в них уже столько человек лет вложено, что сделать с нуля еще один довольно сложно. Если помнишь, был такой, ну, довольно классный, как сказать, парень, Джек, гражданин Ричард Сошер или Socher, как его правильно. Он немец, насколько я помню, так что он Рихард даже. Так вот, этот самый Рихард, он, соответственно, уходил в своё время как минимум из Стэнфорда, где преподавал. Я забыл, где он там работал, ну, где-то в каком-то хорошем месте. Так вот, он уходил, соответственно, оттуда тем, чтобы сделать свой. И поиск, но как-то с тех пор всё заглохло и затормозилось. Я думаю, что дело тут не в какой-то особой излокозности Google, а просто в том, что сделать поиск — это, ну, банально тяжело. Это требует много-много инженеров, много-много работы для того, чтобы поиск хорошо работал. Сейчас поисковых движков в мире существует, ну, там, я думаю, что по пальцам двух рук точно можно перечислить, может быть, даже одной.

Дмитрий Колодезев 56:26
И были слухи, что именно OpenAI делает свой собственный поисковый движок, тем более что робот для сканирования страниц у них давно есть. И они ходят на страницы и сканируют. Вот, пока мы с тобой говорили, я на самом-то деле... Сходил и набрал какие пластиковые окна лучше, и вверху вывода Google поисковал. У меня обзор от ИИ с рекомендацией набора брендов. Вот ссылка, где купить. Поэтому как бы. Проблема действительно есть, то есть хочется попасть в топ, и люди ищут решение, и вот оказывается, можно пока решение не искать. Ну, это пока, мне кажется.

Валентин Малых 57:19
Ну, я думаю, что это всё, знаешь, как сольётся в X (Twitter), потому что, ну, всем очевидно, что это будет так, поэтому Google и другие поисковики, не только Guru, будут вкладывать деньги, чтобы, собственно, остаться на этом рынке, просто теперь уже с ним как поставщик данных в ИИ. Это, кстати, некоторое количество времени назад уже было. Жалобы периодически приходят, то есть там раз в три месяца приходит новость, что упал трафик на Страницы сайтов с поисковых систем. Вместо этого, соответственно, люди стали искать. Ну, ну как бы, трафик-то может и упал, но просто это дело-то в том, что теперь это всё обрабатывается внутри поисковой системы, фактически. Да, то есть поисковая система всё это проскорила, отдала. Движок, который сгенерировал вам уже конкретное описание, и всё. То есть переход на сайт как таковой теперь не имеет смысла. Но сама суть рекламы, как ты правильно заметил, она осталась. То есть то, что наши пластиковые окна должны быть на первом месте, это, в общем-то, никуда не делось, потому что мы всё ещё хотим продавать пластиковые окна.

Дмитрий Колодезев 58:29
И вот тут была такая история какое-то время назад про то, что, дескать, Stack Overflow её разгонял, что вот у нас трафик падает с тех пор, как появился ChatGPT. Но там, если посмотреть на график, то трафик у них падает немножко раньше.

Валентин Малых 58:45
Да-да, у них началось падение заранее. А тут... ...ChatGPT даже мало заметен на этом. Вот мне кажется, да, это общий упадок форумов как таковых. Да, то есть люди перешли общаться в какие-то другие места, видимо. Группы в мессенджерах, то есть фурма перестали быть источником информации. Вот, собственно, и всё. Ладненько, я думаю, что мы можем переходить к таким более серьёзным новостям. Значит, у нас Есть такая новость. Google, OpenAI, Anthropic, сегодня уже упоминавшаяся, и это также xAI, про которые сегодня не говорили и заключили, контракты на сотни миллионов долларов на разработку ИИ для армии США. И на мой взгляд, это показывает то, что, вообще говоря, игрушки дозрели. Да, то есть, если военные обратили внимание на то, что. Этим можно пользоваться, значит, игрушки уже достаточно интересные, чтобы они их взяли. Часто бывает так, что из военного сектора что-то приходит в гражданские, ну как, например, всем известные микроволновки. Да, все знают, что это техник с военным радаром работал и обнаружил, что он его нагрелся завтрак в коробочке. Соответственно, многие вещи действительно приходили из военной в гражданскую сферу, но бывало и наоборот. Бывало, что и из гражданской сферы в военную. Вот в данном случае, мне кажется, мы это и наблюдаем. Сумма соглашений всего лишь там 200 миллионов долларов. Это для корпораций, мне кажется, особо ни о чем. Для таких огромных, но тем не менее, уже что-то.

Дмитрий Колодезев 1:00:30
Я, знаешь, что думаю, я думаю, что представление о том, что вояки такие тупые, что до них, как до жирафа, доходит поздно, несколько преувеличено. Вот те люди из, скажем, Регулируемых отраслей, с которыми мне довелось общаться, они были умные, бодрые и любопытные. Проблема тут в том, что, ну, я говорю, вот давайте вот так вот сделаем. Они говорят, нам нужен безопасный стэк, то есть нам нужно гарантировать, что ПО безопасное, то есть у вас есть безопасный компилятор, на нем вы пишете, собираете безопасные библиотеки и так далее и тому подобное. Вы же первым делом берете ResNet, который фиг знает на чем обучен и как с этим работать. То есть оно не соответствовало их стандартам качеств, прежде всего. Вот и тут есть, конечно, два пути. То есть, первый — это повышать. Повышать качество и, второе, понижать стандарты. Интересно, что, наверное, пошли. Вторым способом, то есть даже в такой чувствительной области, как оборона, всегда есть какие-то вещи, в которых мы можем позволить себе немножко облажаться. И вот туда надо втыкать LLM. И это, опять же, то, с чего мы начали разговор, что успешный сценарий внедрения LLM — это когда ты строишь систему, которая может позволить себе облажаться и всё равно ещё будет полезна. Вот и они, скорее всего, какие-то такие сценарии отрабатывают.

Валентин Малых 1:02:06
Интересное предположение. Я исходил из того, что, видимо, когда я говорил, что дозрели, я имел в виду, что их качество стало уже удовлетворять минимальным стандартам качества. Ну уж, простите за давтологию. То есть, их качество стало минимально допустимым, и это... Ну, мы просто пришли к тому, что раз военные стали это использовать, видимо, оно минимально удовлетворяет по качеству вот этому всему, и мы будем наблюдать это, собственно, в онлайне. Ну, насколько я представляю, может быть, я не очень себе представляю, как это правильно. Происходит, но мне казалось, что вот эти вот экшн-камеры сначала появились как гражданская продукция, а потом в какой-то момент их стали использовать военные, потому что оказалось, что это удобно. И в этот момент они сказали, ну и бог с ней, что она там, как бы, не выдерживает плюс пятьдесят и минус сорок. Ну, в каких-то случаях она выдерживает, и мы тогда уже получаем от нее пользу. Я думаю, что вот здесь то же самое произошло.

Дмитрий Колодезев 1:03:17
Помнишь такую базу InterBase? Нет, ну короче, это был первый версионник, который я увидел давно-давно еще. И она в своё время создавалась как Устойчивая база для коммуникации в окопах, то есть представим себе, что у нас есть система связи, в которой время от времени связь рушится, и чтобы наша система базы данных выживала в тактических условиях. То есть, на уровне рота именно, то есть не в дата-центре где-то, а на уровне рота, чтобы пусть не много было данных, но пусть они выживали. И как раз версионник там хорошо зашёл. И, ну, на самом деле, Firebase, базу-то ты знаешь, да, по-моему, она как раз от интербейса и производной просто форка есть. Да, и то, что они, ну, какие-то вещи, такие как, допустим, перевод, суммаризация, то есть, например, представь себе, что солдат работает в враждебном окружении и получает возможность просто считать вывески на странном языке, да. Вот это уже очень много. Ну, как бы, люди работают, да.

Валентин Малых 1:04:45
Тут я, кстати, вспомнил, что тот самый Mattermost, которым мы активно пользуемся, его в своё время адаптировал, по-моему, Bundeswehr, если я ничего не ошибаюсь. То есть, германская армия его адаптировала, потому что он вроде как удовлетворил их стандартам. Связи в условиях ядерной угрозы, что-то такое. То есть, типа, что он достаточно устойчивый, и даже если там что-то где-то поломается, всё равно... А, нет, простите, это был не Mattermost, это был Matrix, Matrix, точно, Mattermost, не это самое. Потому что Matrix он распределенный, а Mattermost он всё-таки едет с единым центром. Ну и бог с ним. Ладно, давай следующий. Это совсем уже как-то мрачняк. Значит, есть такой замечательный человек, Eliezer Yudkowsky, который в своё время Соответственно, написал это же он написал замечательную книжку «Гарри Поттер. Методы рационального мышления». Всем категорически рекомендую. Я знаю, что фанаты Гарри Поттера её ненавидят, но мне она нравится, потому что я сам не фанат Гарри Поттера. На мой взгляд, всё в игровой форме достаточно хорошо рассказано. Но вот он написал новую книжку. Которую, видимо, методами рационального мышления он пришел к тому, что вообще говоря, довольно опасно делать сильный искусный интеллект. И, собственно, она называется, если кто-нибудь его сделает, мы все умрем. Ну, это практически как Cato со своим карфагеном, если вы понимаете, о чем я. Но, на мой взгляд, все-таки, Элиезер, он немножко Как сказать, он такой несколько эпатажный гражданин. Если я правильно помню, он даже школу средней закончил. Он, скажем так, очень Своеобразно выражает свои мысли, несмотря на то, что действительно очень интересно мыслит, мысли его все-таки бывают слегка неортодоксальными. Поэтому, на мой взгляд, он здесь специально преувеличивает именно для того, чтобы привлечь внимание к данной проблеме. А ты что думаешь?

Дмитрий Колодезев 1:06:58
Я думаю, что. Что искусственному интеллекту было бы гораздо проще, если бы Yudkowsky всё время не придумывал кошмарных страшилок. Вот, в своё время я наблюдал видеодебаты Яна Лекуна с, по-моему, Yudkowsky, и это было ужасно. На самом деле, так было обидно за Лекуна. Уж Лекун очень ответственный человек, на самом деле. Вот и когда он пытался говорить аргументированно, то есть всё это выглядело на разговор с сумасшедшим сектантом, но при этом на самом деле Yudkowsky выполняет важную задачу. Он тыкает. В больные места, и в результате становится понятно, что либо «да нет, здесь не больно», либо, в общем, люди дают аргументированные ответы. То есть, он выполняет полезную функцию, санитар леса, в том смысле, что он ходит и говорит, где нужно внести дополнительное разъяснение, чтобы люди на это не вились.

Валентин Малых 1:08:03
Ну вот да, я тоже так думаю, что он именно как бы выступает в качестве. Даже не знает, ну, в каком-то смысле. Да, то есть он, соответственно, подсвечивает проблемы даже там, где их не видно. Да, может быть, не видно их потому, что там их нет, а может быть, не видно, потому что никто туда не смотрит. Ну вот, тем не менее, подсветить всё-таки стоит. Ладно, я думаю, что после сложных обсуждений можно перейти к более легким обсуждениям. И в качестве легких обсуждений у нас прекрасная новость. Microsoft начнет закачивать под землю фекалий, чтобы компенсировать выбросы СО2 от ИИ. Новость прекрасна сама по себе, потому что у нас, соответственно, есть желание. Хорошо, природе, и при этом желание делать ИИ. Вот Microsoft решила, соответственно, подойти к этой проблеме следующим образом. Давайте мы будем, соответственно, захоронять бытовые отходы для того, чтобы получить так называемые зелёные кредиты. Да, это типа право на то, чтобы выбросить какое-то количество СОО2 за счёт ИИ. Есть ли здесь какое-то рациональное зерно, как считаешь?

Дмитрий Колодезев 1:09:20
Слушай, ну это та самая история, что когда метрика становится целью, она перестает быть метрикой. То есть в свое время придумали хороший способ оценить, насколько Как какая-нибудь организация портит окружающий мир. Вот. Потом Это привязали к Деньгам и появились люди, которые эти деньги с удовольствием осваивают, например, закачивая дерьмо под землю. В нашей стране существуют так называемые карбоновые полигоны, которые Выясняют, как там из-под земли выделяется углекислый газ или наоборот впитывается, хотя на самом-то деле, на мой взгляд, есть более актуальные проблемы. Вот, то есть Microsoft, ну она платит такой налог. То есть кто-то решил, что они должны оплатить эти налоги. Ну вот хорошо, они отдали столько-то денег людям, которые закачивают дерьмо под землю, решив, что это дешевле, чем.

Валентин Малых 1:10:29
Я тоже так думаю. И на добивочку у меня прекрасная новость. Она не совсем про ИИ, но я просто не мог про ВИМ, уж простите меня. Московские производители создали духи с ароматом технологического суверенитета и русского быта. Я даже комментировать это не буду. По-моему, новость прекрасна настолько, что не требует комментариев с моей стороны. Да, то есть я считаю, что сегодня лучше новостей уже не будет, поэтому на этой прекрасной ноте я предлагаю заканчивать. Соответственно, спасибо, что были с нами. Подписывайтесь везде, где нас найдете. У нас скоро появятся уже подкастные площадки. Ставьте лайки, ну и, как обычно, всего хорошего. Перелить себя.

Дмитрий Колодезев 1:11:15
Пишите вопросы в комментарии. Да, обязательно. Пока-пока.