Капитанский мостик 2-8

28.02.2026
13.10.2026
подкасты

Восьмой выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

Содержание

00:00:00 Начало
00:00:40 Anthropic против Пентагона
00:16:54 LLM не умеют считать
00:29:35 Модели выучили SWE-bench
00:41:23 ИИ-агент сделал бизнес
00:45:14 ИИ-бум не вау
00:52:21 Каким был 2028 год
00:57:07 Claude против COBOL
01:11:35 ИИ за работу
01:19:20 Собака — гейм-дизайнер

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. И у нас сегодня в гостях Тимур Маджидов, специалист по искусственному интеллекту в химии, доктор наук и вообще очень хороший человек. Очень рада, что Тимур к нам зазвался. Вот и мы с Тимуром и Димой сегодня попробуем судить животрепещущие новости. Они прямо продолжают животрепетать практически в момент записи. Так что давайте приступать.

Тимур Маджидов 0:30
Замечательно, спасибо, что пригласили, ребята. Как забавно, я следил за этим подкастом, а тут раз и приглашение.

Валентин Малых 0:37
Круто! Здорово, что у нас совпали желания. Первая новость, которую я хотел бы обсудить, для меня, на мой взгляд, самая животрепещущая, которая у нас есть, это Anthropic, кто не следил за, соответственно, развитием событий. Я у себя в канале написал, что запасы по корнам. Я в целом так и сделал, потому что где-то прошлым летом было объявлено, что Google и xAI заключили контракт с министерством войны США. Они теперь не министерство обороны, министерство войны. Если кто не знал, это отдельный прикол, но нам он отношения не имеет. Вот, и они заключили контракты, а потом где-то ближе к Новому году была новость, что контракты заключили, по крайней мере, собирались заключить уже четыре компании, то есть Google и XAI остались, и добавились к ним Anthropic и OpenAI. И вот Anthropic долго-долго всеми копытами упирался, чтобы, соответственно, не вводить. В оборот Пентагона свои инструменты. Там есть какие-то ограничения, на мой взгляд, не очень существенные, что-то типа там не хотят делать домашнюю слежку. У себя в стране, при этом против сележки в других странах, они никаких проблем не видят. Ну и в общем, там какая-то такая история. И договорились они в итоге до того, что в конце концов отказались. Их дедлайн был в пятницу, то есть вот буквально на этой неделе. И в итоге Пентагон наложил на них санкции, объявил их, соответственно, некошерными для того, чтобы подключать к поставкам в Пентагон. Вот для меня лично. Интересное развитие событий, посмотрим, что из этого будет. Ну, в прошлый раз, кажется, что-то такое обсуждали, но вот тут мы конкретный пример видим, что к чему это привело. Пока ещё непонятно, к чему конкретно, да, то есть чем Anthropic рискует, что вот получил вот такую награду, но посмотрим.

Тимур Маджидов 2:37
Это забавная история, но на самом деле это же не первый раз. Это как многое из того, что сейчас происходит вокруг Америки и президента Трампа, надо запасаться попкорном и ждать, человек меняет. Мнение, скажем так, весьма нередко. Что, наверное, хорошо, скорее чем плохо. Но подобные ситуации уже случались, скажем, с Apple, когда они отказались для кого-то, для разведывателя, что ли, управления. Разлучить чей-то телефон, и для Apple это не была какая-то катастрофическая ситуация в прошлом. Так что я думаю, наблюдать за этим, конечно, забавно, но по большому счету я не думаю, что это чем-то действительно серьезным закончится для Anthropic. С другой стороны, и ещё что. Здесь нужно, мне кажется, иметь в виду, что, во-первых, для Anthropic это чисто репутационная история, поскольку они именно на AI-этике. Строят свое представление или, как это сказать, реноме. И для них, конечно, такое, когда неэтично используется их AI, является репутационными рисками, а не из-за этого. Полемизируют с другими компаниями о том, как они, значит, неэтично имплементируют её. И третье, наверное, что хотелось бы сказать, что вот эти guardrails, о которых речь-то идёт, то есть ещё даже вопрос не только в том, чтобы использовать, а то, что там внутри модели сидят guardrails, что не отвечая на такие вопросы, не отвечая на такие вопросы, она же натренирована, замучена. Замученный reinforcement learning до смерти, чтобы ни в коем случае не отвечая на то, что и не делая того, что может повредить человеку. Снять эти guardrails и, значит, переобучить модель к чертям с нуля. Мне кажется, ещё и такой есть аспект, то есть, ну окей, они разрешат, например. Использовать в таких неэтичных контекстах, но это же будет автоматически. Значит, им надо как-то переобучить модель, убирать, лезть довольно глубоко в неё, чтобы от таких вещей избавляться. Это ещё и финансовые, как мне видится, потери. Я могу здесь ошибаться, но поскольку Вообще вопросы AI-этики, вот я как человек, который работает в западной компании, AI-этика — это капец, это, ну знаете, у нас я вот недавно проходил по одному проекту AI assessment, ну точнее, не AI assessment, вообще-то это science assessment одного из моих проектов, и когда через четыре месяца наш Отдел по AI-этике мне это разрешил. Да, это sanity tests сказали, но это самое главное, типа, всё остальное — ерунда. Типа, пройди AI-этику, а всё остальное мы как-нибудь сделаем. Да, да, придём, найдём. То есть это большая история в западном мире, особенно в Европе, наверное, чтобы и риски вокруг этого очень большие, и страхи вокруг этого очень большие.

Валентин Малых 5:46
Слушай, ну вот по поводу денег, я бы тут хотел вставить свои пять копеек, раз такое удачное выражение в русском языке, да. История в чём? Как мне кажется, что даже если это стоит каких-то денег, я выскажу сомнение, почему это стоит денег чуть позже, то, ну, это же контракт с военными. У военных, особенно в США, много денег. Причём, если я правильно помню, бюджет Пентагона составляет что-то типа. Три совокупных следующих бюджета или пять совокупных следующих бюджетов, ну что-то всё, короче, всё остальное примерно меркнет. Я имею в виду, все остальные военные бюджеты всех стран меркнут по сравнению с бюджетом Пентагона. И поэтому, ну уж как-нибудь-то они бы такие потери могли компенсировать, если уж мы говорим, что это просто вопрос денег. Другой вопрос, что ты говоришь про этику и говоришь, что она зашита. Вот то, что она зашита, у меня есть некоторые сомнения. Мы сами занимаемся обучением определенной модели у себя, и, как я вижу, всё-таки это достаточно внешняя штука. Ну, по крайней мере, у нас, да, то есть ты можешь зашить какие-то определённые вещи внутрь, но, во-первых, это неэффективно, а во-вторых, как правило, всё ещё как минимум дублируется. Снаружи, да, то есть есть ещё какая-то система, которая вот эти guardrail, они как раз внешним образом ещё дополнительно удостоверяются. Да, то есть это не в промте прописывается, хотя и в промте тоже можно прописать, а есть ещё некие фильтры, которые стоят на входе и на выходе, которые проверяют, что модель сказал что-то то или не то. И то, что у них не так, я, честно говоря, сомневаюсь. Скорее всего, у них так. Я не знаю, опять же, я никогда не работал в Anthropic, но мне кажется, что там примерно так же всё устроено. И скорее всего. Модель специально не учат каким-то сложным этическим правилам, ну, какие-то базовые, ну, что-то типа там, будь хорошей. Да, вот я думаю, такое учат. А что там надо, не знаю, там, не делай слежку за американскими гражданами. Ну, кажется, что такое они не встраивают. Опять же, это моя иллюзия, может, я не прав. И по поводу этики, действительно, этике уделяется большое, большое внимание. Но тут же вопрос в чём? Что все компании, про которые мы говорим, я имею в виду, что OpenAI, что Anthropic. Что даже Google с Microsoft, они все на самом деле являются публичными, то есть они все зависят от. Как ты выразился реноме, но только реноме. А в каком смысле? Что? Есть конкретная группа людей, которая даёт им деньги. Да, ну это инвесторы, я имею в виду. И у этих инвесторов может быть представление, я не говорю, что оно такое есть, но может быть, что вот есть, не знаю, там какой-нибудь оборонный концерн, какой-нибудь Raytheon, да, или что-нибудь такое, и вот мы в тебя вкладываем деньги, а ты тут, значит, выкобениваешься и не хочешь заключать контракт с нашими основными заказчиками. Я не говорю, опять же, что у Anthropic такие инвесторы, но я могу вполне себе представить, что такое может быть. Например, инвесторы у Илона Маска, насколько я представляю, в основном как раз из военно-промышленного комплекса. Поэтому он прекрасно заключил на этой неделе контракты и вообще даже и слова не сказал поперём. Вот как-то так.

Тимур Маджидов 9:01
Не совсем согласен. Ну, во-первых, guardrails, насколько мне известно, они есть и снаружи, и внутри модели. Ну да, понятно, что ну это тоже забавно. Вот мы, например, когда используем и наша компания, когда выставляет какие-то инструменты, использующие агенты вовне, то есть у нас есть. Я бы сказал, даже многоступенчатые guardrails, то есть есть наши guardrails, которые делают наши data scientists на то, что пользователи могут сделать. Потом есть следующий лейер guardrails, которые имплементируются. На платформенном уровне, то есть есть какая-то платформа. Вот у нас, например, опять-таки в компании есть собственная платформа, которая хостит модели и, ну как бы, через них хостятся модели. Мы оперируем через них. На этом уровне есть какие-то guardrails, уже установленные теми чуваками, которые платформу поддерживают. Эти guardrails, они в основном там против prompt injection, их тут уже против атак скорее, то есть они. Такие больше safety, чем AI, наверное, чем AI ethics. Но по-моему, AI ethics тоже там есть, потому что когда я какие-то вопросы спрашивал, мне часто там типа не отвечу и всё тут давал. Ну, я какие-то пробовал там спрашивать какие-то откровенно опасные вопросы, и она меня просто вырукливала, ну что, типа, не скажу. И потом... Надо иметь в виду, что я практически уверен, что вот эти модели, которые Anthropic будут предоставлять. Пентагон — это будут модели, которые хостятся на стороне Anthropika, практически с тех компаний. Очень мало компаний, наверное, если не сказать, что никто. Не хостят вот эти модели на своих. В серверах все эти модели хостят, по сути, в самом антропике. И та модель, которая... Ну, опять-таки, я не готов утверждать на все 100%, но я практически уверен в том, что вот это там условно есть там Пентагон, это один, то есть просто создается копия, условно говоря, этой модели. То есть вот эта модель для Пентагона, теперь у нас появился новый какая-нибудь компания Рога и Копыта, которые хотят приватную использовать эту модель. Просто она копируется, передаётся как есть. И для того, чтобы понятно, что за какие-то особые деньги они могут, конечно, какие-нибудь простые твики. Поправить какие-то простые вещи, поправить, но какие-то очень сложные глубокие вещи, типа, AI-этики и так далее, мне кажется, что это не так просто делать, даже для них. Это могут быть какие-то аспекты, которые и зашиты в саму модель. Аспекты защиты сверху на модели надстроены потом дополнительно. Потом же эти модели, как правило, они же ещё другие. Как сказать, сама с собой общается часто. В процессе там есть какие-то promptы, которые говорят, пользователь вроде присылает один вопрос, но там внутри есть ещё дополнительные promptы, что там типа перечитай то, что ты сделал, там проверь на соответствие то-то тому-то, тому-то, тому-то, тому-то, подумай, что ты забыл, добавь ещё что-то, ну вот в таком формате. Опять-таки, не на 100% уверен, но судя по всему, это что-то такое, а где-то просто по опыту использования. И вот эти вещи, если ты хотя бы что-то меняешь, ты заново должен перетестировать. У тебя возникают вопросы тестировщиков, AI alignment. Вот эти AI ethics, которые это всё равно люди, которые за этим всем стоят. Они должны опять-таки перетестировать, они деградируют ли качество модели, они деградируют ли то-сё и так далее. То есть в любом случае это деньги, и мне кажется, достаточно серьёзные. И кроме того, это всё, что Ну, это будет модель, которая может использовать условно только Пентагон. И я практически уверен, что это дополнительные какие-то расходы. Понятно, что они могут повесить эти расходы на Пентагон, но в любом случае, это я практически, ну как сказать, не практически уверен, я очень-очень думаю, что большая. Есть шанс того, что здесь нужны дополнительные расходы с их стороны, которые могут не окупаться. И кроме того, это же ещё вопросы приоритетов. То есть, представляешь, у тебя есть там, я не знаю, или иные инженеры. Они могут у тебя делать следующую модель от Anthropic, следующего Claude учить, или для Пентагона должны поправить существующую модель. Здесь ещё вопросы упущенной выгоды.

Валентин Малых 13:42
Ну, всегда можно нанять ещё людей. То есть, это... Ну, когда мы говорим про такие суммы, мне кажется, что можно нанять ещё в два раза больше людей. Это не такая, кажется, проблема.

Дмитрий Колодезев 13:53
Слушай, ну, во-первых, во всех новостях говорится, что они «to deploy модуль in classified cloud network». Вот, то есть это может означать как то, что они развернули её в закрытом контуре совсем. Да, так и то, что они, как у нас, допустим, по 154-мм ФЖ делается, делают действительно копию модели, и её туда, на эту часть, грубо говоря, кластера идут запросы только отсюда. Вот, и ну второе, конечно. Вероятнее, но сразу же вечером же 27-го OpenAI сказал, что они договорились с... Департаментов войны о разворачивании своей модели в их classified cloud network. Вот и соответственно, готовы тут же. Подхватить упавшее знамя, но вообще вся эта история про то, что... Они не потеряют денег. Я сомневаюсь, что они не потеряют денег. Как минимум, администрация сделает попытку, чтобы они потеряли деньги, потому что это показательная порка запланирована. То есть, если она сойдёт с рук, то, в общем, будет понятно, что Bechtel победил. Администрацию, да, вот. И здесь прогнуют, дальше прогнёт, уж если он вояк прогнул, то и всех остальных тоже прогнёт. Поэтому я думаю, что вояки попробуют поступить ровно как сказали, то есть действительно запретить всем своим поставщикам. Работать с антропиком, вот и понятно, что. Всё это тоже решается, то есть американцы санкции умеют обходить не хуже нас. Как, кстати, говорят, что у них там на таможне треть китайского просто недекларированного идёт. Кстати, информация такая интересная пролетала, так что там тоже молодцы. Вот, но я думаю, что здесь заруба прямо взрослая. Вот у нас ещё есть одна тема сегодня обсудить. Их меморандум от 9 января. Департамент воин, так они там прямо и написали, что так они и будут делать. То есть там написано 90 дней на то. Чтобы проверить все модели, что в них нет ограничений, которые нам помешают их использовать как хотим. Нет никаких этических guardrails, нет никаких diversity guardrails, нет никаких идеологических guardrails. Вот мы хотим их танцевать как хотим. Вот и вот за 90 дней разобраться, всех проверить, сделать benchmark, который проверяет, что этой фигни там не водится. Вот и всех к такти привести. Всё, вот, ну, 90 дней идут.

Валентин Малых 16:41
Прикольно, что тут скажешь. Ну, я думаю, что мы посмотрим на сюжет в развитии. Попкорн, конечно, нужен. Да-да, его надо закупать уже в промышленных масштабах. Следующая новость от, собственно, Тимура. Тимур хотел обсудить вот эту статью, и насколько я представляю, суть здесь в том, что люди пытаются проверить, насколько у нас являются нейтральными алгоритмами по отношению к данным. Тут есть небольшая, как бы,

Тимур Маджидов 17:16
Химическая подоплека, то есть вся эта группа, вот Kevin Jablonka. Они те, кто интересуется именно применением агентов в химических применениях, то есть в химических задачах. Недавно у них, ну в прошлом году, у них вышла статья с забавным названием таким, что AI обладает superhuman intelligence в химических задачах, в том плане, что она действительно показывает на тестах, которые они разработали, но это multiple answer questions, то есть вопросы смножить, как это сказать, вопросы. В которых есть заранее заданные ответы, и там она действительно обходит почти всех людей. Там только были единичные люди, которые умудрились обойти, скажем, на то время. По-моему, GPT-4, когда они это использовали. Но суть там была в том, что на вопросы, когда у тебя есть, так как эти тексты были из университетских задачников, условно говоря. То модели с ними достаточно хорошо справлялись. После этого, значит, и вот они вообще интересуются такими вопросами, насколько можно LLM использовать в химии. И есть такая штука в химии, называется SMILES. Это текстовый способ представления молекул. То есть, когда молекул мы представляем одним текстом, SMILES. Очень простая штука, которую можно легко имплементировать. Ну вот у меня, когда я работал в университете, у нас студенты имплементировали, например, запись SMILES и чтение файлов чтение SMILES просто как задачу по программированию для наших студентов. Вот и они стали смотреть, и понятно, что наиболее удобно, если мы говорим о химии. С LLMs, с вот этими большими языковыми моделями, если мы говорим с ними, наиболее удобные химические структуры именно представлять с этими SMILES. Это наиболее натуральный вид для этих больших языковых моделей. И, кстати, более или менее последние модели, скажем. GPT-5 довольно неплохо оперировать со SMILES. То есть, если ты туда даёшь ему SMILES, она понимает, что внутри, какая молекула соответствовала этому SMILES, структуру более или менее какие-то, что там внутри. И здесь они сделали довольно простую задачу, что как простой прокси к тому, насколько модели хорошо понимают. Различные контексты, различные типы объектов, они сделали простую задачу, что давайте будем считать, сколько раз встречается что-то. Помните, это была довольно популярная тема, там сколько букв в слове «стровбери»? И они сделали, окей, давайте будем считать, сколько букв, сколько слов обычных, сколько названий городов, сколько, значит, в тексте, сколько и сколько там химических структур. И оказалось, что есть огромная разница, что считать, и даже emoji, сколько emoji, есть огромная разница в точности, что мы считаем. То есть, модели, например, если тебе надо посчитать, сколько молекул упоминается. Да, вот здесь, если вы облэйшн посмотрите, смотрите, если надо было посчитать, сколько. Да, и забавно ещё, что они не делали это сложнее, чем это могло бы быть. Они сделали самую простую, что есть возможность. То есть они брали и разделяли pipe символами. То есть просто условно говоря, буква pipe символ, ещё буква pipe символ, ещё буква pipe символ, или город pipe символ, город pipe символ и так далее. И оказывается, даже в таких сеттингах есть огромная разница, что там внутри. Буквы — нормально, текст, да там слова, плюс-минус обычный, нормально. Химические формулы. Заданные виды SMILES — всё плохо, она резко ухудшает. Качество модели. Они экспериментировали там забавно с промпутами, пытались, окей, давайте скажем про этот pipe или не скажем про этот pipe. Разницы нет. Давайте посмотрим на модели, которые обучены по-разному, с разным там просто, которые обучены на RLHF или на DPO или на еще что-то на одинаковом датасете. Разницы нет. Одна и та же история повторяется всегда, что если у вас какие-то необычные контексты, вот типа химический, то есть это вот эти слова, это химическое. Этот сразу резко падает качество моделей, и у них... Они это называют semantic fragility моделей, то есть вот такая семантическая хрупкость, что получается, если даже такая простая задача. Как просто посчитай, сколько раз я упоминаю определённое слово, причём я говорю разделённое pipe, и здесь уже есть огромная разница между словами, просто принадлежащими разным категориям. То как мы можем надеяться, например, на агентские использования этих моделей, где такие, такого рода задачи, ранжирование? Перестановка, подсчитывание встречаются очень часто, и забавные у них в выводе есть фразы про то, что мы думаем. Часто о больших языковых моделях, как о алгоритмах, что они могут выполнять какие-то алгоритмические задачи. В то же время они не имеют алгоритмы, они аппроксимируют алгоритмы и контекст, который сидит. Очень важен для этого. И да, вот видите, там если как раз у тебя справа внизу, LLM do not implement алгоритмы, they approximate them. То есть не имплементируют алгоритмы, а аппроксимируют алгоритмы. И то способность к этой аппроксимации зависит от контекста. Вот, собственно, это мне показалось очень забавным, особенно в свете того, что LLM. Используется сейчас очень сильно в научных применениях, в физике и в химии. Мы пытаемся использовать, и такие сигналы довольно, как сказать, тревожные лично для меня, что о возможности и точности этих алгоритмов и больших языковых моделей, когда мы говорим о контексте, когда мы говорим всё так же о текстах, но немножко смягчённом, в смещённом контексте.

Дмитрий Колодезев 23:33
Слушай, ну, во-первых, с emoji я тоже замечал, что они emoji считают очень плохо, гораздо хуже, чем что-либо ещё. А во-вторых, я пока Тимур говорил, я подумал, что, наверное, это общая история сейчас. Всё, что мы делаем, то, что мы понимаем под алгоритмами, мышлением, интеллектом, оно так или иначе состоит из фазы анализа и синтеза. И вот синтез у LLM работает отлично, а анализ иногда хромает. И это, собственно, следствие того, как мы их учим. Мы их учим синтезировать, а не анализировать. И вот то, о чем говорит Тимур, это как раз ведь ошибка анализа, не синтеза. То есть выделение частей из целого.

Валентин Малых 24:15
Слушай, я тут, знаешь, что хотел бы заметить? На мой взгляд, это принципиальный аспект здесь в чём? Что языковые модели, они, как бы кому-то ни казалось, не умеют. Мыслить. Многие люди думают, что не умеют. Нет, они умеют пользоваться паттернами, которые мы в них заложили. А абстрактное мышление, которое как раз и является отличительной особенностью нашего вида в каком-то смысле, биологического, я имею в виду человека, оно как раз в этом и проявляется, да, что мы можем понять, что вот этот неизвестный нам объект, он вообще говоря обладает какими-то свойствами, например, счетными, да, что мы можем посчитать, что яблоки, что апельсины, что звезды в галактике всё равно это один тот же счет. Без абстрактного мышления это совершенно неочевидно, и LLM им, очевидно, не обладают. Именно поэтому, кстати, я думаю, что вот этот современный успех сейчас вот агентов, он, во-первых, понятен, потому что наконец-то стали тренировать на этих задачах, и чем больше этих задач будут выполняться, тем лучше они будут справляться. Но с другой стороны, там же есть и ограниченность, что каждая новая задача будет вызывать затруднения, потому что новая задача, даже сделанная по аналогии, это новая задача, требующая абстрактного мышления, ну вот анализа, как ты говоришь, для того, чтобы перевести её на новую почву. А оно так, ну скажем так, напрямую так не работает. Вот это то, что я хотел бы. Сказать, наверное, в первую очередь, а во вторую очередь я хотел ещё добавить ещё одну штуку. Мой опыт взаимодействия с современными моделями, ну вот, например, с тем же Qwen, да, вот у нас тоже новость сегодня есть, не знаю, успеем, не успеем. Вот с тем же Qwen опыт говорит, что он умеет на самом деле, когда ему ставится задача в нужный момент. Не генерировать самостоятельно ответ, да, вот не делать подсчёт вот этих вот, не знаю, SMILES или городов или чего угодно, а он умеет разбить задачу на подзадачи, хотя бы минимально, и подсчёт отдать. Тому самому алгоритму, который уже существует. Ну, например, мы выделили все строки, содержащие там, не знаю, название города, и подсчитать количество строк можно просто тулой из консоли. И это точно будет правильно. Другой вопрос, что там может быть неправильное определение, туда-сюда, но важно, что в целом. Если LLM, а они очень сильно это делают, научатся хорошо использовать внешние инструменты, то значит мы, как бы, станем на шаг ближе. Да, то есть я не думаю, что модели научатся идеально. Абстрактному мышлению, но с помощью внешних инструментов написания обработчиков, да, если мы понимаем, какой алгоритм должен быть, мы можем описать его словами, то написать соответственно этот алгоритм в коде и его исполнить — это уже то, что сейчас работает, хотя ну там понятно с ограничением. Вот, всё так.

Тимур Маджидов 27:13
Я думаю, что здесь есть две школы мысли в плане того, что когда, например, используют LLM в химии. Собственно, одна — это ровно то, что Валентин, о чём ты говоришь, что мы должны просто создавать агентские системы и наборы инструментов, с которыми они оперируют, и это в значительной мере превалирующая точка зрения. С другой стороны. Не любая задача может быть сформулирована на уровень тулов или переброшена на уровень тулов. То есть, модель всё равно должна иметь какое-то понимание химии, если мы говорим о химических применениях, даже для того, чтобы просто подобрать правильный инструмент. Конечно.

Дмитрий Колодезев 27:56
Попросту говоря, внутри модели должна быть онтология предметной области. Без нее она все время будет делать грубые ошибки.

Валентин Малых 28:04
Ну и вот эти оптологии как раз пытаются в модели запихнуть с переменным успехом. Да, я не специалист по химии, я не знаю, насколько сейчас это реально получается.

Тимур Маджидов 28:14
Онтологии и тхимии — это отдельные песни. Я сейчас, собственно, разрабатываю одну онтологию. Уже полгода всю голову себе сломал. Как это, как наши знания туда запихнуть? Хотя очень узкая предметная область, на которой я пытаюсь, там просто химические реагенты мне надо запихнуть в онтологию. И уже здесь напукает куча проблем, то есть я. Это ну ладно, но моя боль — это чисто моя боль. Онтологии в химии есть, но их не так много, и они не... Им очень сложно описывать всю предметную область. То есть, скажем, вот смотрите, это как, скажем, математика, глубоко формализированная наука. И соответственно, там ontology создавать более реалистично. Физика чуть менее формализированная, чем математика. Всё ещё можно, но уже сложнее. Химии ещё сложнее, потому что это ещё более эмпирическая наука и ещё менее математически формализированная. Если мы пойдём в биологию, там уже вообще нет строгих теоретических онтологий. Там практически все онтологии сугубо эмпирические, а соответственно, подверженные изменениям.

Валентин Малых 29:30
Ну, значит, хорошие новости мы всё ещё будем нужны. По-моему, это прекрасно. Я хочу воспользоваться, так сказать, служебным положением и себя похвалить. Ну, как известно, себя не похвалишь, никто не похвалит. Вот вышла новость, я про неё даже писал в канале. Соответственно, идея в чём? Что OpenAI выпустили такое заявление, да, у себя на сайте, что Несмотря на то, что они когда-то помогли разработать свои BenchVerified, теперь они его не будут использовать для оценки. Ну и дальше они там приводят примеры конкретных проблем, но мне кажется, примеры конкретных проблем не так интересны. Тут важна сама мотивация. А мотивация заключается в том, что фактически они выяснили. Что современные модели, ну вот типа, по той же Gemini, да, или какого-нибудь Claude современного именно, они просто выучили эти. Эти бенчмарки, может быть, даже не специально выучили в том смысле, что они специально не учили этот бенчмарк, они просто... Проживали уже весь GitHub по три раза, да. Просто знают, какой код там должен быть, то есть они знают исходник, из которого сделан этот бенчмарк. И вот эту проблему мы на самом деле с коллегами, вот я говорю, сам себя не похвалишь, мы с коллегами осознали ещё год назад и разработали свой бенчмарк, который называется SVE-мера. И в этой SVE-мере мы как раз эту проблему и то, что называется, адресовали. Да, мы ебать! Учли за счёт того, что мы изначально сделали динамический benchmark, да, тот, который обновляется, ну там, хоть раз в неделю, если есть достаточно мощностей. У нас не то чтобы есть, как бы, такой бюджет, чтобы каждую неделю обновлять, но тем не менее. И почему это так? То есть, если мы собираем какие-то задачки свежие, допустим, с последней недели, условно, то почти наверняка, да, не гарантированно, но почти наверняка. Современные модели не успели ещё выучить этот код. Да, он ещё просто не успел попасть в их обучающую выборку. Да, тут есть проблема с раком, то есть если они используют какой-то retrieval в процессе своей работы, то... Не менее подвержены проблемам, но тем не менее это уже что-то, да, это уже лучше, чем ничего. По крайней мере, если мы ставим четкую задачу неиспользования внешних источников, то по внутренним источникам эта штука вполне себе позволяет что-то, соответственно, использовать, что-то проверять. Вот, так что вот такая вот у нас идея. Я просто хотел перед всеми похвастаться, что мы молодцы и придумали это еще год назад.

Дмитрий Колодезев 32:13
Ольга, помнишь историю с ResNet, которую сначала долго не могли решить, потом решили, и там дошли примерно до 5% ошибки. Потом произошли, а потом в Карпаты сел, руками его прорешал и так оценил, что там примерно 6% ошибочной разметки. То есть, больше, чем модели решали. А потом ребята из Cleanlab построили автоматическое построение самоверификации разметки. И нашли огромное количество разметки, которая размечена так, что ни один человек её не решит, а модельки успешно решали, всё клёво. И тот же самый ImageNet его много раз как раз отзывали и дорабатывали, потому что он набит был ошибками, как это. То есть это общая проблема бенчмарков, что сделать бенчмарк для модели выше человеческого уровня человеческими силами очень трудно.

Валентин Малых 33:07
Ну да, да, ну как было у Douglas Adams в замечательной книжке «Автостопом по галактике», да, что они строили-строили компьютер, который был способен сформулировать ответ на вопрос жизни Вселенной вообще. Но он им сказал, что сможет только теперь, после того, как его построили, он хотя бы знает, что нужно сделать, чтобы построить такой компьютер, который сможет. И даже тот не смог, но это уже другая история. То есть, идея в том, что действительно, построить нечто, что лучше человека справляется с какой-то задачей, как это протестировать, мы себе слабо представляем, просто потому что, ну, как ни странно, мы всё-таки люди, да, и мы понимаем, как человек стал её делать, а как модели её делают, не очень понятно.

Тимур Маджидов 33:48
Ну, мне кажется, здесь ещё скорее проблема, если я тебя правильно понял, что здесь скорее проблема Data Leak, который абсолютно неизбежен, когда мы пытаемся тестировать модели. Ты тестировал, тебе нужно создать. Но на GitHub, как только ты его выкладываешь на GitHub, он становится известен модели, и, соответственно, опять у тебя. Этот бенчмарк перестает быть бенчмарком в тот момент, когда ты его выложил, как бы самозбывающееся пророчество только. В моделях. Это, кстати, такая же проблема у нас собственная. Помните, я вот так говорил только вот несколько минут назад про тестирование моделей в химии и вся проблема, что текстбукные знания, она отвечает замечательно. Когда это выходит за рамки текстбука, она отвечает очень плохо. И вот, и, собственно, проблема в том, что всё наше знание о химии есть, оно так или иначе где-то лежит. Это либо книги, либо... Либо какие-то, я не знаю, GitHub репозитории с датасетами, либо это базы данных, типа той, где я работаю. Но так или иначе, это доступно моделям, и, соответственно, они на них учились. И вопрос, где заканчивает аппроксимация и начинается новое знание, становится исключительно сложным для того, чтобы на него ответить.

Валентин Малых 35:04
Это правда, это действительно, на самом деле, это не только для химии, это для любой области так характерно, в том смысле, что мы можем проверить на чём-то, что знаем сами, а то, что мы знаем сами, часто уже формализировано. Да, то есть можно проверять только каким-то неформализированным образом, ну типа разговаривать с чем-то, но тут вот. Это проблема устного экзамена, да, то есть если у тебя устный экзамен, ты можешь человеку спросить, он тебе что-то ответит, тебе кажется, что ты понимаешь, что человек понимает, насколько это кажется соответствовать действительности, какой-то совершенно неочевидный вопрос, который по большому счету, ну, в современном мире, по-моему, ответа не имеет.

Тимур Маджидов 35:44
Ну, кстати, Валентин, ты же, по-моему, когда ты писал в канале насчёт этого, насчёт того, что тестирование кода происходит на лету. То есть, то есть программа пишет код, вы пишете, условно говоря, тесты, и дальше тестируется, насколько она выполняет эти тесты, не решает ли эти.

Валентин Малых 36:06
Так вот такая проблема. А тут проблема уже в том, что тесты мы как пишем? Да, то есть, если они пишут то же ИИ, то там мы снова попадаем в ту же ловушку. Да, у нас ИИ пишет тесты для кода, который писал ИИ, и у нас. Понимание того, насколько всё это верифицировано, какое-то очень своеобразное. То есть, если у нас уже есть написанные тесты, да, ну мы бы каким-то образом формализовали задачу, то тогда да, мы можем объективно сказать, что эта штука решает формализованную задачу, но для того, чтобы её формализовать, нам сначала нужно проделать какую-то работу, которую с помощью И, ну, не очень понятно, как делать, опять же, не всегда понятно, скажем так.

Тимур Маджидов 36:47
Когда мы говорим о химических моделях, то есть в химии это же не только большие языковые модели, это могут быть обычные машин-лернинг-модели, натренированные для предсказания каких-то свойств. То есть в химии есть понятие. Ретроспективные валидации и проспективные валидации. Ретроспективная валидация на существующем здании, а проспективная валидация — это когда ты приходишь к химику, он говорит, у меня есть такая-то проблема, ты её решаешь с помощью вот этой модели, говоришь, вот мы думаем, что должно быть вот так, вот так, вот так. До того как химик на самом деле что-то провёл, и потом химик проводит и такой, а ну да, вот у вас тут хорошо, тут хорошо, а вот тут плохо и так далее. И ну как бы считается высшей категорией, как бы статей, не статей, а качество модели, если она прошла проспективную валидацию, и ты в проспективной валидации показал её преимуществ. Мне кажется, что именно Что когда мы говорим о коде, это ещё куда не шло, это ещё можно сделать. Такого рода бенчмарки, но когда мы выходим за рамки стандартизованных, ну или, например, математические доказательства, вот эти последние новости по поводу доказательства различных теорем, в том числе, там, где мы имеем формализованные языки, это ещё куда не шло. Вроде найти можно решение, когда мы начинаем уходить от формализации, там, где формализация сложна или невозможна. То мы в любом случае будем действительно попадать в эту проблему, о которой ты говоришь, о том, что чтобы получить знания, как в деревне в Простоквашино, чтобы продать что-нибудь не нужно, купить что-нибудь не нужно, а у нас денег нет. Вот тут то же самое, чтобы протестировать модель, нам нужно знания, то, которого у нас ещё нет, откуда мы его возьмём.

Дмитрий Колодезев 38:30
Тут, во-первых, до того как появились LLMs как очень мощный усилитель способности к синтезу, как я уже говорил, там шёл процесс выпадания знаний из рук человечества, то есть научные школы мельчали. Научная школа состояла из одного человека. Он пилил какую-то тему, он умер или ушёл в другую область, допустим. Эти знания на самом деле исчезли, и вот таких Дырок в нашем сыре знаний, их огромное количество. И как раз с теоремами была недавно история, что ChatGPT вроде бы доказала какие-то теоремы, потом покопались и выяснили, что нет, одна из них была доказана, просто никто это не заметил. То есть она была потерянная, это было знание уже открытое и потерянное человечеством. Вот, это первое. А второе. Тут мы, получается, упираемся снова в разницу между реальным и абстрактным миром. То есть до сих пор LLM могут ставить какие-то вычислительные эксперименты, то есть то, что можно. Прогнать на компьютере, то и LLM могут попробовать. И в этом смысле, например, код идеален, то есть его можно скомпилировать, запустить, посмотреть, работает или нет. Вот, но по мере того, как у нас неестественный интеллект пойдёт в реальный мир, а он пойдёт неизбежно, роботизация и так далее, и тому подобное, появится возможность валидировать, например, те же самые. Самоуправляемые автомобили просто поместил их в незнакомую среду и посмотрев, выкрутиться ли. Да, поместив робота куда-нибудь на Марс, посмотрев, выкрутиться ли. То есть на самом-то деле возможности для верификации есть, просто мы сейчас. Уперлись пока в зеркальное стекло, как только неестественный интеллект выйдет за пределы этого зеркального стекла. И сможет сам ставить химические эксперименты, например, да. Ну, то есть мы сделаем автоматическую лабораторию, которая достаточно хорошо сможет. Они, кстати, вроде есть, но пока не так. Вот, то это будет решено. То есть мы же люди тоже исследуем мир двумя способами. То есть мы в детстве где-то месяцев до шести наблюдаем пассивно и пытаемся. Построить модель, глядя на то, как вокруг происходит, а потом мы начинаем всё трогать и трясти. И вот просто сейчас мы будем переходить к фазе трогаем и трясём. Будет интересно, если вы растили маленьких детей, вы знаете, как это.

Тимур Маджидов 40:57
Да, только здесь опять возникают страхи о том, что ты дашь LLM «руки», не забьёт ли тебя этими руками после этого.

Дмитрий Колодезев 41:08
Да-да-да, и наконец, и тут действительно уже речь, то, о чем столько лет говорили.

Валентин Малых 41:13
И наконец-то да, то, о чем была посвящена там, может, фантастике шестьдесятых наполовину, наверное. Ну ладно, я утрирую, но много чего. Вот наконец-то мы это проверим на практике. Это довольно интересная история. Она сама по себе совершенно неудивительная, но просто забавная. Да, в чём суть? Получилось так, что некий, я так и не знаю, кто там автор, честно говоря, но этот неизвестный человек просто запустил и агента, создал ему, соответственно, аккаунт на GitHub, назвал его Kai Gritun, и, соответственно, за месяц этот Kai Gritun создал несколько хороших. Хороших, я сейчас пущу, что это значит pull requests. Хороших, это означает принятых в open-source проекты. И соответственно, помимо этого, что самое прикольное, после того как он создал себе таким образом ту самую репутацию, про которую мы говорили, да, что вот создал он, значит, какие-то хорошие pull requests, после этого он запустил. Свою консалтинговую фирму, которая стала принимать деньги, чтобы другие учить людей, как, соответственно, делать хорошие pull requests. Вот это, по-моему, совершенно прекрасно, потому что тут бизнес сам бьёт ключом. Да, то есть мы уже в той точке пространства времени, когда нас и агенты начинают непосредственно делать бизнес. Там, правда, нет. Как бы, нет описания, сколько он денег заработал. Да, это самое интересное, но тем не менее, это уже прикольно. То есть мы вот наблюдаем в режиме онлайн, как у нас инфоцыгане заменяются и цыганами. Прекрасно же, но оффенс, как бы, никаких цыган я не хотел оскорбить, это просто расхожие технологии.

Дмитрий Колодезев 42:58
Вот смотри, в фантастике шестидесятых, когда искусственному интеллекту, который вдруг внезапно вылупился, понадобились ресурсы, он шёл торговать на биржу. Вот я думаю, что сейчас он пойдёт заниматься переводами денег на безопасный счёт.

Валентин Малых 43:17
Написание кода уже, мне кажется, скоро кофеварки будут уметь, так что.

Дмитрий Колодезев 43:20
И романтическим скалом.

Валентин Малых 43:23
Да, у нас есть ещё новость про это, мы обсудим.

Тимур Маджидов 43:25
Ну, на самом деле, это как раз к тому, продолжает тот разговор, который мы начали до этого, о том, что надо дать ему руки. Вот ему, по сути, кто-то дал руки, и он пошёл зарабатывать деньги. Наш ребёнок не просто вылупился, а наш ребёнок сразу после того, как ему дали руки, пошёл деньги просить за свою работу.

Дмитрий Колодезев 43:48
Есть же ещё один момент. Мы тут обсуждали Anthropic, а Anthropic интересен чем? Тем, что они смотрят в будущее. То есть, есть такие мемы, типа, когда нас захватят машины, все запомнят, что я, допустим, серверу термопасту поменял вовремя. У Anthropic это реально заявлено, что мы знаем, что когда построится искусственный интеллект, он прочитает всё, что было. И мы хотим, чтобы он понимал, что мы вели себя прилично. То есть, реально, они это заявляют, декларируют. То есть, они прогибаются не под Министерство обороны, они прогибаются под будущий искусственный интеллект, который неизбежно случится.

Тимур Маджидов 44:30
Ну, с этого началась вся вселенная Матрицы. Если вы имели счастье или несчастье, её отслеживать даже по комиксам, которые там как раз началось, то что искусственный интеллект долго шёл к людям с протянутой рукой, добрым, но люди не приняли его, обидели, он оскорбился, и тогда началась вся та жесть, которая привела к рождению Нео и созданию этой всей Матрицы.

Валентин Малых 44:57
Что-то как-то я эту часть истории Матрицы пропустил, я только.

Тимур Маджидов 45:00
А я тебе потом пришлю, значит, краткое описание вселенной «Матрицы». Ну, там эти братья и сестры Войчевские, они там создали кучу приквелов к этому, ну, к этой всей вселенной, того, что мы видели в фильмах.

Валентин Малых 45:13
Прикольно, спасибо. Соответственно, тоже статья, которую прислал Тимур, и, наверное, я бы хотел, чтобы Тимур про неё и рассказал. Что имелось в виду в статье? Вот называется она так, что люди любили бум. Доткомов. Это в начале нашего 21 века было, в 2000 году примерно. А сейчас, значит, у нас AI-бум, и его люди не очень любят. В чём, собственно, замес? Расскажи, пожалуйста.

Тимур Маджидов 45:40
Ну, собственно, к этим темам мы уже возвращались много раз, даже сегодня. Суть в том, что сейчас наблюдается AI-бум, это очевидно, и на сток-маркетах и так далее. Но только когда, собственно, констатирует автор этой статьи, что когда был бум dot com, все считали, что это действительно что-то хорошее, что это сейчас создать свободный. Интернет, от которого каждый будет, значит, наслаждаться и попадет в счастливое свободное будущее. В то же время, если смотреть на AI-бум, который происходит в настоящее время, люди реально его боятся. Они его, они опасаются развития искусственного интеллекта. Это с одной стороны. В то же время компании жалуются на людей, которые такие неблагодарные, нехорошие, не понимают, насколько, значит, это всё должно приводить к улучшению жизни человечества, а люди при этом ещё чего-то жалуются и чего-то боятся. А вот и там вообще приводится много довольно длинная статья для меня. Я не люблю такие лонгриды читать обычно, но заканчивается она тем, что там условный американский Джо, он сидит. Он боится этого искусственного интеллекта, считает, что это всё, значит, опасное, и когда-то нас этот искусственный интеллект уничтожит. Но в то же время, когда ему нужно письмецо черкнуть, он лезет в ChatGPT и быстренько просит его, ну напиши мне, пожалуйста, что-нибудь хорошее по этому поводу. На самом деле вся статья — это довольно интересная чтива. Ты её читаешь, и кажется, что автор... Вообще капец против искусственного интеллекта, потому что он там рассказывает все страхи, рассказывает про то, какие компании, значит, как компании жалуются на людей, какие люди неблагодарные свиньи не понимают, и здесь есть ещё. Рассказывается о том, что для компаний создает риски, то есть они рассчитывают на развитие систем быстрее, чем оно на самом деле адаптируется людьми. Эти риски и страхи, которые люди имеют, они, собственно, Отчасти недопонимание действительно со стороны людей о том, какие действительные риски у искусственного интеллекта. То есть это какие-то страхи нагнанные, опять-таки, да, вот этими матрицами и фантастическими фильмами шестидесятых и книгами шестидесятых. Но вот эти страхи приводят к тому, что компании не могут извлекать эту дополнительную прибыль, и их сейчас, вот эти признаки охлаждения рынка, который наблюдается, они значительно Из-за того, что люди действительно боятся этого.

Дмитрий Колодезев 48:27
Там же есть ещё одна такая штука, что весь бизнес стоит на том, что у нас нет идеальных рынков. То есть у нас несовершенные рынки, несимметричная информация, у кого-то легче доступ к ресурсам и так далее и тому подобное. Вот и неявно, но, кстати, мы это, наверное, у нас в одной новости, может быть, мы дойдём до туда, предполагается, что... Я эти неровности выровняю. но что после Кто после этого останется от прибыли у бизнесов после того, как эти неровности выровняются? Это на самом деле тоже большой вопрос. Что-то как-то Тимур так позитивно, позитивно, тут раз и в общем, а всё оказывается правда. Тимур, ты что? Зачем ты так? Слушай, ну на самом деле, вот вы говорите, что типа в шестидесятых годах фильмы рисовали всякие ужасы, но если посмотреть, то фантастика шестидесятых была пугающе точна в том, что мы сейчас видим.

Тимур Маджидов 49:23
Я просто действительно, знаете, недавно. По пару новостей встречал. Ну, во-первых, известная. Операция «Паутина», которая была, когда искусственные, значит, дроны на искусственном интеллекте уничтожали, значит, объекты военной техники. И достаточно быстро после этого вышли новости. Практически все крупные державы мира развивают такие технологии, и значит, для защиты, естественно. И я просто представил, ну давайте заглянем в двух-трехлетнее будущее. Пусть оно будет безвоенное, то есть создается компания, ну там условно, держава А создает. Вот этот рой из дронов AI-управляемых, которые убивают других дронов, просто запрограммировано на то, чтобы детектировать другие дроны и уничтожать их. С другой стороны, точно такая же фигня происходит. То есть у вас другая держава Б создаёт ровно такой же рой дронов, которые также на искусственном интеллекте, на вот эти visual recognition и всё такое. Уничтожает тот рой дронов. Просто представьте следующую, ближайшую, не дай бог, войну. То есть летит рой дронов с одной стороны, рой дронов с другой стороны, и большое месиво в середине из переломанных дронов. Какие-то люди там ещё какими-то управляют и всё такое. То есть вот тот Дмитрий абсолютно согласен с тобой. Вот эти и это будущее, оно уже не долгосрочное, а оно, на мой взгляд, краткосрочное. Меня вот это уже начинает, ну, скорее пугать, насколько действительно. Мы близки к ситуации, когда сейчас пока еще дроны воюют с дронами, будут воевать с дронами. Но когда-то, когда эти дроны, с одной стороны, как в ранней вселенной, антиматерия и материя в основном аннигилируются, останется какая-то при какая-то дельта на одной из сторон, которую придется уже уничтожать людям. И в этот момент это будет чистая матрица.

Дмитрий Колодезев 51:19
Тут надо идти пересчитывать зенитные суры али Физби, то есть в принципе.

Валентин Малых 51:25
Мне ещё вспомнился, знаешь, рассказ от Клиффорд Саймак. Как же он назывался? Я потом... Да, да, точно, это про них, да, про то, что там, соответственно, автоматическая тележка привозит руду, автоматический завод плавит там с металлом, автоматический, соответственно, завод из этого металла собирает снаряд, который загружается в автоматический, этот самый истребитель, который автоматически летит на то место, на котором когда-то сто лет назад был город, и продолжает его бомбить. Вот это. Это не я придумал, это придумано в шестидесятые годы, и кажется, что мы как-то довольно подозвительно близко подходим к этому сценарию. Это прямо, да, выглядит интересно.

Тимур Маджидов 52:01
Ну вот только что мы вложились, господа, в то, ровно то, о чём болтает эта статья в New York Times. А после этого мы пойдём назад и будем пилить наших агентских систем, и говорить, а то какая-то замечательная штука.

Валентин Малых 52:17
Нам же за это деньги платят, как иначе-то, но ха-ха. Есть такая компания, я, кстати, про неё только сейчас узнал, но может, это моя проблема, Citrin Research. И они, соответственно, сделали такую, как бы это правильно сказать, это даже не то чтобы прогноз, да, это как бы они, это, наверное, фантастический рассказ больше, который говорит, что типа. Мы делаем доклад из какого-то условно 2030 года, 30 какого-то, да, и рассказываем про то, что произошло в 28 году. Да, то есть они как бы такой футуристическая ретроспектива. Давайте так вот назовём. Первым этот рассказ притащил Дима, и я предлагаю Диме, собственно, про это и высказаться.

Дмитрий Колодезев 53:01
Слушай, ну тут истории несколько, и начать, наверное, надо с того, что Карл Маркс хохочет. Вот, стоимость создается только трудом, вот. И когда большую часть работы, которую мы делаем, будет создавать ИИ, который является капиталом, а не трудом. Соответственно, никто людям за это платить не будет. Вот, и получается, а что же люди будут кушать? Это первое. Второе — огромное количество компаний зарабатывает на том, что покупают вещь за пять, а тут продают за 50. Но в условиях, когда искусственные интеллекты будут знать всё и везде, так не получится. Они купят это за пять с половиной, из которых 50 копеек будут транспортные расходы. Вот, ну как бы, откуда возьмётся прибыль? И рисуют картину будущего, ближайшего, в котором это всё наступило, и занятость упала на 18%, и это хороший прогноз, потому что мы думали, что будет хуже. Типа, новости читаю, но пишу вам из горящего танка буквально.

Валентин Малых 54:14
Да-да, фактически за спину капает лажоплавленная броня, да, как известно. Ну, я тут. Выступлю адвокатом дьявола в том смысле, что есть у нас замечательные люди, как Дженсен Хуанг, как Elon Musk, которые обещают, что вам вообще работать не нужно будет, да, и за вас всё сделает, а мы вас будем кормить. Ну, не мы конкретно, они так плавно обходят момент, кто будет кормить и зачем, но тем не менее, то есть. Мы можем предположить, что были уже такие эксперименты, как безусловный базовый доход. Вот у нас безусловный базовый доход для всех людей, которые, соответственно, не вписались в такую структуру занятости. Чем это плохо?

Дмитрий Колодезев 54:57
Минутка политэкономии, откуда берутся, вообще говоря, деньги? Почему деньги ценятся? Как государство создаёт спрос на деньги? Государство создаётся спрос на деньги посредством налогов. То есть не то, что люди ценят деньги. Изначально государство говорит, знаете, ребята, вы нам должны заплатить налоги деньгами, деньги есть только у нас. Выкручивайтесь как-нибудь. Вот. И люди несут государство товары и услуги. А что, как если государству вдруг внезапно эти товары и услуги нужны? Кто будет заниматься формированием товарного рынка? Ну, вот такие вот тоже истории. Если государство — это большой компьютер, а нужно ему просто электричество, чтобы чтобы нами рулить.

Валентин Малых 55:39
У Станислава Лема был такой. Рассказ не очень известный, называется «Дракон». Может быть, кто-то читал, и там как раз рассказывалось про то, что люди... Соответственно, содержит такое вот существо, которое непонятно что делает, но просто они ему время от времени приносят еду, и вроде как ничего больше от него не получают. Я не буду здесь рассказать, спойлерить, я рекомендую его почитать. Хотя, на мой взгляд, не самая удачная вещь у Лема, но смысл в том, что мы вполне себе можем оказаться в той ситуации, где надо будет только бросать в топ-уголь, да, и больше государству от нас ничего будет не нужно. Ну, и не только государству в большом счете. Вот как-то я хотел, чтобы было повеселее, но повеселее не получилось, извините.

Тимур Маджидов 56:21
Я думаю, что господа, вы всё упрощаете. Я верю в счастливый расцвет капитализма, рано или поздно. Бавки, как там говорят, зло побеждает бабло. Вот, ну вот, хубавра, бабло побеждает зло. В конечном итоге именно так оно и точно произойдёт.

Дмитрий Колодезев 56:43
Я технооптимист по этой же причине, то есть я думаю, что человечество как-нибудь выкрутится, но для этого ему кое-что придется сменить в своих подходах. Пока непонятно что.

Валентин Малых 56:53
Ну, кстати, да, вот мне кажется, это действительно такое правильное заключение, что что-нибудь мы придумаем, но пока мы просто не понимаем, что надо придумывать. Да, если бы мы понимали. Как бы, хорошо бы, если бы мы знали, но мы не знаем, да, как бы в классике. Ещё одна новость от Тимура, что IBM пострадал от Anthropic. Да, ну, если кто-то не в курсе, IBM давно и плотно вообще сотрудничает, в том числе с американской оборонкой, так что мне кажется, этот Anthropic много кому на ногу понаступал. Но это так, это так, к слову пришлось. А вообще история-то про другое, что Anthropic разработал довольно прикольную штуку. Это даже не то чтобы... Эта штука, которая, как я помню, если я правильно понял, она просто про то, чтобы... Соответственно, давать какие-то пояснения, ну, фактически, это такой. Умный помощник программиста на COBOL, который ему объясняет, что вообще надо делать. И плюс эта штука может переписать с COBOL на Java. Видимо, на COBOL писать по каким-то причинам они не хотят. И вот уже это вызвало большое падение акций IBM, что-то типа на 13%, это довольно много. Для меня это вывод абсолютно странно, в том смысле, что IBM, конечно, да, много поставляет, но как бы, а что раньше никто про COBOL ничего такого не делал? Почему, вот откуда это всё есть?

Тимур Маджидов 58:16
Вся суть в том, что оказывается, ну вот как. Так сказать, научные вычисления в основном написаны на Fortran. Так получилось, что в США закрепилось, что значит финансовые. Транзакции, финансовая система, оперирует на COBOL в Америке, на самом деле. Не знаю, как во всем остальном мире, но именно финансовые системы, транзакции и вот. Эти банковские системы, так получилось, что они написаны на COBOL, и IBM, оказывается, я вот об этом тоже, честно говоря, не знал до вот этой новости. Да, довольно много из того, что он зарабатывал, он консультировал. Эти компании или поддерживал вот этот код, который написан на COBOL. Это такая очень сильно низко, так сказать, финансово низкоуровневая организация, оказывается, написана на COBOL. И вся история в том, что из-за того, что это IBM-овского доходов, консультация финансовых компаний и поддержка вот этого кода на COBOL и инфраструктуры написанной на COBOL, когда Anthropic создали, значит, агентов, которые обладают вот этими скиллами в написании кода COBOL, поправке, исправлении, bugfixing и так далее на этом, на COBOL. То возникло ощущение, что зачем нам тогда IBM, если значит, вот этот код на COBOL, нам даже не нужны специализированные программисты будут для того, чтобы поддерживать или специальные. Консультанты а-ля IBM для того, чтобы поддерживать этот код на COBOL, то, соответственно, его таким забавным образом ударило по IBM-овскому бизнесу просто то, что значит, Anthropic создал скилл в написании кода на COBOL. Опять-таки, мне кажется, эта новость показывает о том, что развитие вот этого, и оно в принципе будет приводить к изменению. Рынков и к изменению бизнесов, то есть теперь, скажем, ну вот смотрите, скажем, я работаю в компании, которая в основном... Является обладателем знаний, то есть Elsevier — это паблишер, и наш основной бизнес был именно знанием, то есть у нас хранились, собственно, научные статьи, базы данных и так далее. И большой вопрос, я уверен, для нашего руководства я не имею никаких инсайдов, это как в длинной перспективе с этим иметь дело. То есть там вот эти стандартизации, структурирования данных, например, которые значительная часть нашего бизнеса, в долгосрочной перспективе его может делать вот эти. Большие модели, большие языковые модели, и как обеспечить стабильность бизнеса. И вот неожиданно IBM с этим столкнулся. Оказалось, большая доля их бизнеса была поддержкой консультирования в написании кода на COBOL, и теперь появился у них довольно сильная конкуренция лицей искусственного интеллекта.

Валентин Малых 1:01:09
Тут я ставлю ещё свои пять копеек. Я про вот эту ситуацию узнал, ну я имею в виду не про ситуацию с ИИ, а про ситуацию с IBM. Узнал где-то лет 15 назад по служебной необходимости. И тут что стоит заметить, IBM в своё время, ну и до сих пор, кстати. Производит специализированное железо, и это специализированное железо снабжается специализированным программным обеспечением, которое на тот момент называлось z/OS. Не суть важна, как оно называлось. Важно, что история была в том, что очень много ресурсов, буквально. Мне кажется, что теми деньгами, которые были потрачены IBM на то, чтобы достичь вот этой цели, можно уложить дорогу от Петербурга до Москвы в три слоя. Это мое впечатление. Там было потрачено на то, чтобы вот эти машины, которые работали на современном железе, Power, да, я уж не помню, какое там было поколение этих железок. Но чтобы они могли работать в режиме эмуляции тех систем, которые были разработаны в 60-е годы. И, соответственно, COBOL крутится именно в режиме эмуляции систем, которые уже сейчас будут лет восемьдесят. Да, и это, соответственно, большая проблема. Потому что там очень огромные ресурсы закопаны, чтобы ничего не менять. Да, то есть IBM максимально плавно обеспечивает, соответственно, выполнение того кода, который был запущен ещё там при Рейгане, да, условно говоря, американском президенте, и чтобы он до сих пор работал и приносил прибыль людям. А то, что, соответственно, падение доходов от консалтинга. Мне кажется, нет, потому что IBM просто скажет, что... Эти правки не сертифицированы. Вот идите к нам, платите нам денежку, и мы сертифицируем эти правки. И, в общем-то, мне поэтому удивительно, что падение случилось, потому что суть бизнеса вот этих вот. Людей, да, я имею в виду консультирование, она же не в том, чтобы как-то, не знаю, правильно подсказать, как нажать кнопку. Нажать кнопку люди в банках и сами умеют прекрасно, а не в том, чтобы сказать, что мы подтверждаем, что вы нажали кнопку правильно, а с Claude вы сделали это или без Клода, я лично не вижу вообще никакой разницы. Вот мне кажется, что здесь какая-то вещь, которую я не улавливаю. Откуда здесь падение? Либо это просто паника какая-то, либо тут есть какой-то фактор, которого я не вижу.

Тимур Маджидов 1:03:31
Я так понимаю, что отчасти действительно паника есть, но и дело в том, что, как всегда, когда у тебя есть компания, условно, знаете, распространенная, так сказать, схема коррупционного бизнеса. В том, что если ты обладаешь правом последнего слова в чем-то, то ты потом или аффилированные с тобой компании предоставляют консультации о том, как сделать так, чтобы ты потом это принял. Когда, условно говоря, IBM осуществляют. У них вот обладают они вот этим правом последнего слова в плане того, что как это сертифицированное изменение кода или нет, в том числе они и предоставляют, и это удобно другим компаниям, чтобы они предоставляли консультантов, которые заранее всё подсматривали и говорили, стоит ли делать такие изменения или не стоит. И вот эта часть бизнеса, я так понимаю, сильнее страдает, сильнее всего страдает.

Дмитрий Колодезев 1:04:26
Мне кажется, что тут выпускается одна деталь, что Anthropic не выпустил ничего такого. Он просто сказал, что да, Claude Code можно и к COBOL использовать. И само это заявление просто наконец до кого-то доехало. Люди, которые сидят в legacy-коды, они уже не такие заложники, как раньше. То есть никто ничего не собирается менять, как вот в том сценарии, который мы обсуждали, допустим. Про, типа, тридцатый год. Там же та же самая история, с чего начиналась, что SaaS пришёл к бизнесу, если я правильно помню, именно там, да. А бизнес говорит, а давайте вы нам 30-процентную скидку скинете, потому что мы вообще-то и сами можем написать всё. Вот, то есть смысл тут не в том, что COBOL вдруг внезапно будет заменяться и переписываться, а в том, что в принципе стало понятно, что ров вокруг COBOL не такой уж и большой, что, в общем, кого прижмёт, он возьмёт и перепишет, и сертифицирует. Именно вот это вот.

Тимур Маджидов 1:05:34
Много лет назад летел в самолете с одним довольно приятным мужчиной, просто сидел по соседству, имея дурацкую привычку болтать с людьми вокруг в самолете. И значит, пристал я к этому мужчине, спрашивая, чем он живет и всё такое. Оказалось, он что-то типа project-менеджера в одной из большой телеком-компаний России и отвечает как раз за переписывание старого Legacy кода. Ну и я спросил у него, что типа, а насколько всё плохо там у вас действительно что-то прямо такое кошмарное, так много вот этого старого legacy-кода, написанного на непонятных языках. Он такой, ууу, типа, ты даже не представляешь, у нас, говорит, система. Как это называется? dialing, да, вот как это? dialing, наверное, billing по-русски, да, billing-овая система написана на языке, название которого я не запомнил, потому что в жизни не слышал про это. Просто вообще я не слышал такого языка программирования никогда. Да, и поэтому и не запомнил. Он говорит, но написано на там, ставьте любое сочетание букв, которое для вас, для меня, по крайней мере, показалось абсолютно непонятным. Вот, и он говорит, что и проблема... Переписывание этого legacy кода даже не в том, что у нас нет программистов, которые теперь владеют этими языками, а то, что знания, которые за этим кодом, уже потеряны. В их случае в этом была проблема в переписывании legacy кода. Вот этого старого, написанного на достаточно эзотерическом языке, он говорит, ну там, например, есть поправки на теорию относительности, например, потому что за определенное время оно должно отвечать вот это сообщение, и там делаются поправки просто на время распространения сигнала по проводам, говорит, например, даже вынуждены делать такие вещи. И говорит, у нас просто мы потеряли эти формулы, мы просто не помним их. И как нам переписать код, если мы формулы не помним? Я уверен, что какие-то вещи при переписывании с COBOL могут возникать и на этой стороне. Понятно, что, к счастью, они имеют доступ к source-коду, и те чуваки, наверное, тоже имеют доступ к source-коду, но понимание, как этот код работает и почему он написан таким образом, никто не знает. И кто будет потом рецензировать этот код и говорит, что это правильно, нужно и так далее.

Валентин Малых 1:07:53
Так в этом и проблема, то есть в этом и есть бизнес с IBM, что современные программисты на COBOL, они все хорошо на пенсии. Именно потому что, как бы, много программистов на COBOL не нужно. Все, что нужно, написали в шестидесятых годах. И получается, что вот эти знания, они просто их реально нет. Именно поэтому они делают железо, которое способно выполнять код, написанный в шестидесятых годах. В этом идее, да, что код написан, всё положили на полочку, и он нам до сих пор приносит пользу. А вот сейчас, когда оказалось, что всё-таки надо что-то менять в жизни, да, у нас возникает проблема, как же это всё-таки поменять? Ну, мне кажется, всё Дима прав, что всё упрётся просто в то, что, ну хорошо, предположим, что мы не можем мы переписать код на COBOL. Сколько будет стоить написать это заново на Java? Я подозреваю, что с помощью Claude Code это переписывание займёт, ну там, полгода, да, и всё. И после этого уже COBOL может забыть как раз страшный слой. Ну, посмотрим, посмотрим.

Дмитрий Колодезев 1:08:49
Да, тут опасность не в том, что они перепишут, а в том, что они начнут IBM прожимать по цене, угрожая этим. Именно поэтому, скорее всего, цены упали.

Тимур Маджидов 1:08:58
Да, почти наверняка так и будет. Ну и плюс, мне кажется, здесь и всё равно имеется элемент этой паники. Не знаю, господа, вот насколько вы верите в этот vibe coding. Вот, по-моему, Валентин, ты тоже об этом писал или говорил в прошлый раз, что vibe coding в хороших руках даёт хорошие результаты, и vibe coding в плохих руках даёт всё равно не рабочий код. Имею несчастье видеть периодически. Когда какие-то баги возникают, просто судя по всему из-за того, что кто-то там vibe coding и не особо внимательно отсматривал. Код, а потом я как продакт-менеджер. Ловлю там одни баги, вторые баги, третьи баги, и должен приоритизовать, значит, что нам надо что-то починить. То, что уже было давным-давно починено, то, что этой проблемы не было, она опять возникла из-за того, что кто-то vibe coding. И забыл про какие-то вещи, которые мы уже на самом деле чинили когда-то. И я уверен, что даже вот в этой переписке непонятно, что вы можете этот код переписать с условия COBOL на Java. У меня был такой тоже опыт, когда я написал личный код свой на Python, но дело в том, что нам нужно было, чтобы он был на Java написан, чтобы его имплементировать без темы. И наш кодер просто взял, запихнул это в ChatGPT и перевёл это на Java. Он не работает. И он потом полтора месяца потратил на то, чтобы этот Java код просто заставить работать. Потому что те, которые примитивы я использовал в Python, и библиотеки, которые я использовал в Python, ни черта не перекладываются на Java.

Дмитрий Колодезев 1:10:32
Тут есть проблема, что это похоже на то, когда мы припоминаем кому-то его поступки в юности. Дело в том, что современные модели, инструменты разработки эволюционируют со страшной скоростью. То, чего они не умели три недели назад, они не умеют. Это вот мы видим в производстве. Вот и то, что называют vibe coding, в умелых руках оно. Мигрирует в программирование спецификаций, когда ты описываешь на хорошем русском или английском языке со вставками модельного кода, чего ты хочешь получить. И в проекте накапливаются спецификации, и таким образом мы избегаем. На самом деле, узкого взгляда на проблему, когда мы переписываем маленький кусочек, грубо говоря, лечим палец на ноги, не глядя, мы целиком на больну. Вот, то есть, отрасль решает эту проблему активно. Я думаю, что она для среднего размера проектов уже решена с последними моделями.

Валентин Малых 1:11:29
Я вот тут предлагаю переключиться на другую новость, потому что она прямо суперрелевантна получается. ИИ не уменьшает работу, он её интенсифицирует. А почему я считаю, что это релевантно? Я считаю, что как раз ты правильно затронула эту тему, что, как ни странно, для того, чтобы делать работу. Нам до сих пор нужен не ИИ-агент, а человек, который управляет ИИ-агентом. Да, то есть, тем не менее, если у тебя нет понимания того, что ты хочешь сделать, ИИ-агент работу не сделает. И в этом как раз в твоем приведенном примере. Тимур, про то, что человек там полтора месяца пытался отладить код, который вайбкодил за пять минут. Это как раз вот ровно про это. Если мы, соответственно, просто бездумно используем инструменты, которые идентифицируют какую-то низкоуровневую работу, я под этим предупредляю непосредственно написание кода как стучание по клавишам. Такую работу легко и достаточно эффективно можно автоматизировать. Но если ты не понимаешь, что код должен делать, это как раз про спецификации, то у тебя получится, что ты ещё пять раз будешь перепроверять, что у тебя. Там случилось, и что у тебя не случилось в этом коде для того, чтобы он заработал. То есть мы принципиально упираемся в то, что нужен человек, который понимает, как эта штука должна работать, и он может это объяснить машине. Если такого человека нет, то пусть он там vibe coding, пусть это делает хороший программист, который просто не получает грамотного ТЗ, мы всё равно не получим результат. Вот я вот такое хотел сказать.

Тимур Маджидов 1:13:03
Я согласен с тем, что говорит Дмитрий, но мне кажется, до этого, если мы вернемся к плане того, что переходим к программированию спецификаций, но, к сожалению, на бренной земле, я не знаю, ребята, ну, на бренной земле я вижу другую картину. Я вижу, что даже опытные программисты... Используют эти инструменты достаточно бездумно, и это потом приводит к проблемам на уровне выше. А используют они это как раз из этих соображений. Надо интенсифицировать большое давление и так далее. На самом деле, есть и давление со стороны руководства, типа используйте эти инструменты, используйте эти коды как можно больше, давайте будем быстрее программировать и так далее. Но риски, которые за этим возникают, связаны с тем, что код не перепроверяется, не валидируется нормально. Не проходит нормального, ну просто, ревью. Риски, возникающие здесь, они приводят к пока что в моем случае то, что я вижу, каким-то отрицательным последствиям. Кстати, забавно, ну по крайней мере, мои наблюдения. На фронтенде это эти проблемы больше, чем на бэкенде. Видимо, фронтендеры. Бэкендеры более критичны к тому, что они... Пишут, а фронтендеры, ну так как AI действительно очень хорошо себя там ведёт. Но у них, как бы, вера в код гораздо больше, и из-за этого какие-то такие тонкие детали, когда там и опечатывается, и изменяет, бордер сдвигает на 10 пунктов справа, и из-за этого у тебя едет какая-то фигня на фронтенде, вот эти проблемы начинают, достаточно рандомные ошибки начинают возникать.

Дмитрий Колодезев 1:14:58
Ну, с frontend и backend, мне кажется, что разница в том, как оценивается работа. На frontend мы смотрим, как оно выглядит обычно, а в backend мы можем только проверять поведение, то есть мы приучены проверять поведение, потому что оно не выглядит, по сути, никак, пока мы его не запустим. Вот, а вообще все AI-инструменты, они усилители. И если, грубо говоря, человек производил в коде хаос с AI-инструментом, он начнет производить хаос в десять раз сильнее. И я, допустим, как руководитель, ментор команды, да, я много усилий. Меня уходит на то, чтобы нащупать и научить людей способом такого использования, которое будет их усиливать, а не ослаблять. То есть добавлять сигнал, уменьшать шум. И такие способы нащупаются. На самом деле всё хорошо. А ещё есть такая же штука, что за время. Осуществование отрасли программной инженерии было разработано куча практик, про которые все знают, но никто им не следует, потому что больно уж они занудны. И вот тут у нас есть в команде теперь идеальные зануды, то есть я и которому можно просто сказать, что да, ты пиши тесты, ты пиши спецификации, ты пиши документацию, ты делай вот это, и он действительно будет это делать, это работает.

Тимур Маджидов 1:16:25
Ну, как раз получается, к той новости, которой Валентин говорит, он не уменьшает работу и интенсифицирует. Если это, то есть, если у тебя твоя работа заключалась в написании багов, ты очень интенсивно начинаешь писать баги.

Валентин Малых 1:16:41
Ну да, всё так, всё так. Мы сегодня вспоминаем много литературы, как-то так получилось, и это, по-моему. У Шекли было, да, тут важно сразу сделать оговорку. Против злоупотребления алкоголем, но там было сказано следующее, что Алкоголь не делает тебя счастливым, алкоголь усиливает твоё эмоциональное состояние. Если ты был немножко счастлив, ты станешь совсем счастлив. Если ты был немножко несчастен, ты станешь совсем несчастен. Поэтому искать в vibe coding избавление от страданий — это бессмысленно. Если ты страдал, ты станешь страдать интенсивнее. Вот в этом идее. То есть, тут вопрос правильной организации труда, как мне кажется, в первую очередь.

Тимур Маджидов 1:17:21
Мне кажется, то, что сейчас и наблюдается, по крайней мере, вот я опять-таки работаю в большой мегакорпорации, и проблема в том, что как бы руководство знает, что AI может интенсифицировать написание кода, и они давят без того, чтобы предоставить лучшие практики. Люди учат на своих ошибках. Часто они не учатся, не они учатся на своих ошибках, а мы учимся на их ошибках. Ну, я имею в виду, мы продакт-менеджеры, то есть люди делают ошибки, а мы вынуждены потом разгребать, что типа, нет, ребята, ну что-то вам тут надо поменять, а давайте мы добавим дополнительный лейер, там, тестирования, ещё что-то и так далее. Ну или там лиды в командах. Здесь, мне кажется, ещё то, что из-за того, что это настолько быстро развивается, не успевают вырабатываться вот эти практики, о которых Дмитрий говорит, и, к счастью, носителем которых он является. Вот неплохо бы, Дмитрий, чтобы ты там книжку какую-нибудь написал, и, да, пост, тихо, надо это, я бы это расшарил.

Дмитрий Колодезев 1:18:24
Я, между прочим, у себя в блоге в Telegram пишу по главам фактически книгу об этом. То есть я пишу короткие заметки про технический долг, про это самое, про программирование спецификаций, и просто следующее по плану. То есть я начал писать книгу в свое время вместе с Ирой Голощаповой, а потом понял, что в 26-м году никто книг читать не будет. Если хочешь написать книгу, напиши её в виде постов в блоге.

Валентин Малых 1:18:49
Ну, я принципиально не согласен с Димой. Людей из XVIII века ещё много, и книгу вполне себе будут читать. Вопрос в том, что, безусловно, она должна быть как минимум в виртуальном пространстве тоже в виде постов в Telegram. Это замечательно, но она может быть и собрана. Мы в прошлый раз такую новость не обсудили, но там какой-то чувак собрал из API. Клода, по-моему, книжку для того, чтобы её читать, что-то такое там было. В общем, ладно, это кому чего, как бы, знаешь, кому-то всё равно нужно. Вот такой вот гражданин, Калиблик, не знаю, это его настоящий имя или нет, но вот этот вот гражданин, соответственно, написал пост, что научил свою собаку вайдкодить игры. Звучит уже достаточно безумно, но история там довольно простая, что он ввёл промпт, который, соответственно, говорит, что вся та ерунда, которая написана на входе, да, её, я не помню, то ли код, то ли, да, код. Claude, соответственно, должен интерпретировать как некоторый гениальный input, да, и его нужно просто расшифровать и из этой эзотерической последовательности извлечь какой-то смысл. И смысл, как бы, там возникает следующим образом. Собака, вот как здесь на рисунке показано, понимает, что её покормят за то, что она что-то там настучит на клавиатуре, она стучит, ходит кушать и так по кругу. А Claude, соответственно, в перерывах между этим пытается интерфектировать, что она там настучала и пишет какие-то игрушечки. Вот, и вроде даже что-то получается.

Дмитрий Колодезев 1:20:23
Слушай, у меня дочь рассказывала про свою преподавательницу литературы, которая рассказывала им о том глубоком смысле, который писатели вкладывали в свои произведения. Вот синие шторы — это означает здесь вот это и дальше концепция на четырёх страницах. Вот, называлось это СПГС, синдром поиска глубокого смысла. Ну вот мы его механизировали.

Валентин Малых 1:20:45
Ну да, да, но тут на самом деле есть же этот мем про то, что в аду преподаватель литературы пытает автора, что же он всё-таки имел в виду. Ну, тут, как всегда, красота в глазах смотрящего и интерпретация у каждого своя. Мне кажется, бессмысленно пытаться найти интерпретацию в литературном произведении за пределами того, что ты там реально понял. Если тебе интересно, да, какой-то background посмотреть, это замечательно, и, может быть, что-то полезное для себя извлечь. Но тут, как мне кажется, вот эта история — это фактически randomizer, да, то есть он просто взял случайный шум. И из этого случайного шума ИИ стал что-то порождать. Кто не знает, опять же, современные модели генерации изображений, они тоже работают с шумом на входе. Да, там какой-то шум, и из этого шума что-то в итоге получается. И по большому счету, все эти промпты, которые вы задаете моделям, они на самом деле не нужны. Да, они и так вам сгенерируют картинку, просто они хотят понять, какого цвета шум вам нужен для того, чтобы получить то, что вас... Вас удовлетворяет. И я тут сейчас сделаю смелую концепцию, можете. Смело в меня бросаться татками, но я утверждаю, что когда вот эта вот концепция с Neuralink и его аналогами дойдёт до логического предела, у нас будет напрямую ввод из мозга в генераторы картинок. Они нам будут в картинке прямо сразу генерировать просто по мозговым волну и перегенерировать, когда мы увидят наше неудовольствие.

Тимур Маджидов 1:22:11
На самом деле, Дмитрий хотел, кстати, к твоему синдрому поиска глубокого смысла. Однажды имел счастье наблюдать, значит, не в аду, а в реальной жизни, значит, разговор между... Автором книги и, как его, критиком. И значит, этот критик, ну это было там, значит, на YouTube видео, и значит, этот критик говорит, ну такой критик очень. Склонный к этому автору, значит, он ему рассказывает, вот мне так безумно понравилось, как вот в этой части этой книги вы, значит, там, я не знаю, там Сергей ушёл от Вари, и это показывает вот это то, что старое отмирает и новое, значит. Новое возникает, и что вот как бы новая жизнь вносится в этот мир. И автор такой, нет, я не говорил ничего такого. Он там, Сергей ушёл, потому что он разлюбил Варю. Вот, ну нет, ну вы же имели в виду, что это как раз была метафора. Он не имел ничего такого в виду, что надо читать того, чего я не писал. У LLM есть словарь.

Дмитрий Колодезев 1:23:24
Валентин знает, а вот Тимур может быть нет, и можно подобрать такой текст, который не попадает им в токены. И буквально написать им, они не очень поймут, что ты хотел. И вот я не знаю, как сейчас, но какое-то время назад ты, если кидал такую последовательность в русские вот эти сеточки, которые генерируют картинки, ты получал русскую девицу с косой. Причем ты пишешь какую-нибудь полную чушь, тебе генерируют русские девицы с косой. Пишешь другую чушь, получаешь эту же девушку, может быть, чешить другое выражение глаз. То есть это, так сказать, собственный вектор вот этой случайной. После этого, блядь, блядь, блядь.

Тимур Маджидов 1:24:03
Ну, здесь если говорить научно, Валентин, вот ты говоришь, она генерирует из случайного шума, не полностью из случайного шума. Это же, как правило, это всё condition, как бы это по-русски, condition. Да, это нормально, все поняли. В общем, с помощью какого-то дополнительного промпта вот этой генерации. И в принципе, тот код, который человек написал, это и есть вот этот condition, а то, что собака напечатала, это и есть тот случайный шум. В конечном итоге это ровно настолько хорошо, насколько вот этот condition написан хорошо, и благодаря этому всё и работает. Ну, ты всю магию разрушил. Ха-ха-ха, но собачки-то клёвые.

Валентин Малых 1:24:55
Не, ну на самом деле, Тимур прав, что действительно смысл-то в том, что собачка — это реально просто случайный шум, который на входе. А вся идея именно в том, что человек вокруг этого, вот этот вот Кевин Джаблонка, он понаписал различных примеров кода, да, каких-то. Документации какие-то там, неверняка у него есть история общения с Claude, который используется. То есть куча всего, что на самом деле есть вокруг, и без этого вообще не работает. Об этом, кстати, что ещё стоит сказать? Мы вначале про это говорили, что если мы хотим в рамках уже достаточно хорошо описанной области сделать что-то новое, нам нужен иногда действительно случайный толчок. Да, вот случайный вход от собаки, которая не понимает, что пишет. А может, и понимает, кто знает. Но, соответственно, если область описана плохо, то есть написать при этом программу, которая, не знаю, черные дыры обсчитывает, наверное, так невозможно. А вот игру компьютерную вполне себе можно, потому что компьютерных игр сейчас написано уже, наверное, миллион. И можно, и из них много open source, на которые можно опираться вполне себе. Так что вот.

Дмитрий Колодезев 1:25:57
Ну что ж, я считаю, надо ещё и котиков научить.

Валентин Малых 1:26:00
Котиков. Мне кажется, что что-то про котиков уже было, но я давай оставим это для будущих записей. Я предлагаю на этой позитивной ноте завершать. Большое спасибо, Тимур, что пришёл. Было суперклассно пообщаться. Соответственно, что ещё можно сказать? Вроде у нас пока никаких совсем новостей нет, всё ещё можно присоединиться к моему курсу.

Тимур Маджидов 1:26:22
Я хотел сказать спасибо, что позвали господа. Это было очень здорово пообщаться. Да, было очень интересно, на самом деле, правда. Да, интересная подборка новостей. Но, о-о-о, как вот, да, у нас единственное, что главное, всё, к чему мы приходим, что всё страшно, всё плохо, но будет лучше.

Валентин Малых 1:26:41
Конечно, со временем будет лучше, иначе как-то и жить-то не хочется. А ну мы же за позитив, мы же технооптимисты, издемир. Вот, ладно, тогда всем спасибо, увидимся через неделю. Пока-пока.