Капитанский мостик - 11 | Дмитрий Колодезев

14.09.2025
14.09.2025
подкасты

Одиннадцатый выпуск подкаста "Капитанский мостик". Традиционно ведут Валентин Малых и Дмитрий Колодезев. В этот раз снова вдвоем. Оставляйте новости к следующему выпуску в нашем канале в Mattermost.

Площадки

Содержание

00:00:00 вступление
00:01:29 ASML ивестирует в Mistral
00:06:47 Alibaba и Baidu делают процессоры
00:26:27 NVIDIA Rubin CPX
00:31:42 спиритический сеанс с LLM
00:36:31 Vibe-coding для дедов
00:47:03 внедрение ИИ падает
00:52:53 премия ИИ-Дарвина
00:55:43 Лешкович против GPT
01:00:23 подружка для Хинтона

Ссылки

Валентин Малых 0:00
Всем привет, меня зовут Валентин Малых, со мной, как всегда, Дмитрий Колодезев. И у нас сегодня очередной выпуск нашего замечательного подкаста «Капитанский мостик». Прежде чем мы начнем, я хотел сделать два объявления. Первое, у меня начался, точнее, начнется вот-вот начнется на следующей неделе, вероятно, когда вы слушаете, уже начался курс по обработке естественного языка. Всем, кому интересно, приходите. Все ссылки есть в канале ODS. Ну, в общем, везде есть, везде найдете. И второе. Надо обязательно коллегам напомнить, что 18 октября будет DataFest в Новосибирске. Пожалуйста, все присоединяйтесь, кому интересно.

Дмитрий Колодезев 0:44
Да, и между прочим, только что закончилось. Легендарный DataFest X, на который кое-кто не попал. Вот, было очень круто. И после Новосибирского DataFest мы планируем устроить легендарное совершенно остыпатье на берегу Псковского моря, поэтому присоединяйтесь. А вот, а ещё у меня тоже стартует курс, но у меня 27-го он стартует по causal inference серии воркшопов, там на сайте Reliable ML там есть.

Валентин Малых 1:16
Чудесно! Ну, всё, вроде все объявления сделали, так что давайте начинать. Так, ну что, давайте к первой новости. Первая новость у нас про то, что ASML. Компания, может быть, не самая известная, но я сейчас про неё расскажу. Хочет стать крупным инвестором в Mistral. Ну, про Mistral все знают, это создатели, собственно, одноимённых моделей, в том числе, Distral. Много чего хорошего сделали, а ASML — это компания, она, если не ошибаюсь, из Нидерландов, и она производит оборудование для того, чтобы производить чипы. То есть не сами чипы, не TSMC, да, а именно оборудование для производства. И поэтому у неё, ну, какое-то есть приличное количество денег. Вот, и соответственно. Они хотят проинвестировать. На мой взгляд, довольно интересная ситуация, потому что я уже не один раз у себя в канале замечал, и мы это уже здесь обсуждали на подкасте, что у нас пытаются, соответственно, все немножко замкнуться сами в себе. Да, то есть китайцы с китайцами, американцы с американцами. Вот теперь европейцы с европейцами пытаются замкнуться.

Дмитрий Колодезев 2:32
Слушай, ну тут интересная история, потому что, опять же, в мире моделей, Mistral, конечно, молодцы, но где-то вот. В конце, на мой взгляд, и единственная у них моделька была Devstral как раз для кода более-менее, все остальные странные. А тем не менее, технологически они крутые, они MoE выкатывали, Mixtral, и так далее. По-моему, Mixtral у них как раз они первые выкатили MoE, и ASML. Почему-то тут комментаторы написали, что для самой ASML сделка с Mistral выгодна тем, что языковые модели стартапа позволят ускорить разработку новых литографических технологий. Тут не очень понятно, потому что Как бы, Mistral выкладывает свои модели в open source. Их можно, конечно, лицензировать, но в общем, это не та история, чтобы за них платить полтора миллиарда. А другое дело, что если они действительно хотят разрабатывать именно модельку для VHDL, VHDL, например, какого-нибудь, ну, то есть для языка синтеза железа. Вот, то иметь контроль над маленьким европейским стартапом логично, потому что партнериться с любым другим — это сливать им всем технологии. А фактически единственное, за что ASML получает деньги не за то, что они такие клёвые штуки умеют паять, а за то, что они знают, как их паять. То есть сами по себе технологии, если бы их кто-нибудь украл, китайцы бы наверняка воспроизвели. Да, да, и американцы бы с удовольствием тоже, я думаю. Вот поэтому, наверное, да, то есть, скорее всего, какой-нибудь язык железного синтеза в модельке появится, наверное. Было бы прикольно, что это ускорит разработку железа.

Валентин Малых 4:27
Угу, интересная мысль, на самом деле. Я в своё время на VHDL писал. И могу сказать, что он, ну, ничем принципиально не хуже какого-нибудь C, да, то есть это в принципе C есть, только такой специфический немножко. Там со своими ограничениями, то есть на нём вполне можно писать. И если, а скорее всего, так и есть, у ASML есть большая кодовая база на VHDL. То они, соответственно, смогут дообучить какую-то языковую модельку, чтобы она им помогала разрабатывать. Тут отдельный вопрос, насколько действительно помогает. То есть, я тут не берусь судить, но то, что Да, обучить можно, это точно. Тут хотел сделать маленький комментарий по поводу того, что ты сказал. Что они первые Mixtral выпустили? Ну, вообще, конечно же, нет. То есть, сами по себе, вот эти вот MoE истории, они были довольно давно. Тот же Huawei делал там свою Pangu. В виде моей и до этого были всякие MoE истории, Mixtral просто стал достаточно популярен. То есть, он как бы продвинул технологию в массы. В этом смысле они молодцы, конечно.

Дмитрий Колодезев 5:56
Интересно, на самом деле, что действительно мир делится пополам прямо крупными разломами, то есть железо, софт и так далее. Мы разделяемся на континенты.

Валентин Малых 6:12
Как это? Континенты скорее части света, наверное, да? Ну, потому что Европа и Азия — это один континент, а получается, что Китай как бы откалывается сам, Европа пытается отколоться сама, а соответственно, США, они там вот на своём отдельном континенте, у них какие-то свои игры. Действительно, разделяемся, и ну кажется, этот процесс только ускоряется. У нас сегодня будет ещё одна новость на эту же тему, мы про неё поговорим. Собственно, можно прямо сейчас на неё переключиться. Значит, новость заключается в следующем. Она звучит так, что Alibaba и Baidu начали обучать ИИ на собственных чипах, снижая зависимость от NVIDIA. Ну, тут в статье на самом деле приведены достаточно странные цифры, я сейчас их расскажу. То есть цифра такая, что Значит, Китай в 24-м или там в 23-м году занимал выручки компании NVIDIA 13%, а в этом году стал занимать 6%. При этом выручка сама выросла на 56%. И соответственно, раз так. То кажется, что там фактически не как это правильно называется, выручка может и в Китае упала, но как-то не сильно, потому что общая выручка выросла, но понятно, что. Выдачка в Китае может быть просто осталась на том же самом месте, в смысле, в том же самом количестве, если бы по процентикам посчитать. Вот, но важно, что... У обеих названных компаний, Alibaba и Baidu, у них есть, соответственно, свои разработки по процессорам. И эти свои разработки по процессорам они пытаются, соответственно, использовать для того, чтобы на них учить. Тут, кстати, полезно вспомнить одну историю, заключающуюся в том, что вообще говоря, говоря А Это разработки своих чипов. Первый начал Google, да, то есть компания Google сделала свои TPU. Они были первыми, и это было уже приличное количество лет назад. Ну, может, не десять, но какой-то там не меньше пяти, как мне кажется. А, соответственно, за Google последовали, ну, точнее, попробовали последовать. Сейчас не у всех получается, но как минимум это были мета запрещен на территории Российской Федерации. Это был Microsoft, Amazon, OpenAI недавно заявлял о том, что делают свои чипы. То есть, в принципе, все крупные компании так делают, но почему-то, соответственно, только китайским компаниям это ставят в укор. Я бы тут скорее сказал, что это нормальная история, да, такой dogfooding, да, зачем нам? Кормить какого-то неизвестного там Дженсена Хуанга, ну хорошо, известного Дженсена Хуанга, но тем временем зачем его кормить? А когда мы можем его не кормить, а собственно кормить своих собственных инженеров, а потом ещё на этом деньги зарабатывать? Как-то так.

Дмитрий Колодезев 9:35
Ну, кстати, ты хорошо заметил, что вообще-то это не только политика, но и просто экономика, да, а ещё же. Google сделал TPU не в последнюю очередь потому, что ему нужно было учить свои трансформеры для перевода, по-моему. И ему тогдашние GPU решения от NVIDIA не нравились по памяти, почему-то ещё там. И у TPU, кстати, немножко другая архитектура, чем у GPU. История в том, что если китайская компания делает под себя процессор, то она может, у неё есть возможность тонко оптимизировать и инференсы обучения, то есть они могут подкручивать, зная потроха внутренности. Вот, и это прямо вот.

Валентин Малых 10:31
Ну, тут мне кажется, даже не обязательно китайское, знаешь, это любая компания, обладая доступом к железу, может сильно подкручивать. Ну, на примере Huawei, про которого все говорят, да, вот эти вот Ascend, всем известные, ну, они просто нашумели, а так-то они, конечно, вполне себе обычные. Обычные в том смысле, что Они не то что принципиально отличаются от TPU того же Google, и они, соответственно, Обладают рядом особенностей, которые, с одной стороны, позволяют какие-то вещи очень быстро делать. Да, там, ну, определённые матричные умножения определённого вида, они делаются быстро. И с другой стороны, соответственно, те матричные умножения, которые, соответственно, не подходят, делаются медленно. И в этом, собственно, состоит некоторая проблема, состоящая в том, что У нас есть такая история, что. Все сейчас, ну ладно, не все, но там девяносто, думаю, девять процентов людей пишут на одном и том же PyTorch, да. И PyTorch этот, он оптимизирован под CUDA, да, то есть там есть backend для CUDA, и, соответственно, вот он хорошо умеет писать код под CUDA, просто в силу того, что есть много людей, которые на нем пишут. А когда мы говорим про Такую замечательную штуку, как тот же Ascend, ну или любой другой, там, Google, TPU, что угодно. Таких людей банально меньше, и из-за этого кажется, что качество библиотек будет поменьше. У Ascend это ещё осложняется тем, что там некоторые сложности с реализацией отдельных. Отдельных, как сказать, операций, которые есть. Но тем не менее, проблема, в общем-то, остается одинаковая. Что у TPU, что у Ascend, не такая большая распространенность. Железка более сырая по определенным причинам, ну то есть сил просто меньшего масштаба производства, и, что гораздо более важно, очень сырой. Софт, да, то есть вот драйвера, прежде всего, то, от чего Ascend страдают, что драйвера сырые, и с ними довольно тяжело взаимодействовать из-за этого. Вот, но китайское правительство К этому, при этом, казалось бы, американское правительство должно тоже своей компании к чему-то такому стимулировать, ни к чему-то такому она не стимулирует, они сами делают. Да, то есть, видимо, тут действительно есть какой-то экономический смысл. Вот этого, потому что, видимо, Jensen Huang как-то очень много денег хочет. Я даже боюсь представить, сколько он хочет, учитывая, что NVIDIA сейчас самая дорогая компания в мире, по крайней мере, была до недавнего времени.

Дмитрий Колодезев 13:36
Ну, пусть расцветут сотни цветов, как говорил председатель Мао, вот, или Дэн Сяопин это говорил, потому что когда Была диктатура одной архитектуры процессоров настольных, да. Если помнишь, в своё время интеловские процессоры доминировали, а в некотором роде оно зашло в тупик. И когда AMD прорвалась вперёд, когда RISC-процессоры стали развиваться, то есть то, что сейчас там все процессоры, которые сейчас крутятся в iPhone'ах и больших новороченных мобильниках, да, они же. Все выросли из вот этой большой отрасли, но они переросли. То есть, они гораздо более энергоэффективны, где-то более быстрая, где-то более удачная архитектура. Просто им не надо за legacy тащить. И вот существующие же видеокарты, они выросли из именно потребностей игрушек, а когда мы их используем для... Конференции или обучение, мы как бы, ну, всё равно у нас наследие этой архитектуры есть. То есть, вот эти шейдеры где-то там, что-то ещё. То есть, как раз Google TPU пытался, ну, не пытался, сделал, просто новую архитектуру придумал. Там он чисто для себя. Вот, то есть, я думаю, что это хорошо.

Валентин Малых 15:05
Тут, знаешь, я бы что добавил, что ты упомянул, что AMD вырвалась вперёд. Тут полезно вспомнить историю создания компании AMD. AMD, кстати, расшифровывается Advanced Micro Devices, если кто-то вдруг был не в курсе. И созданная эта компания была довольно прозаическим образом. Антимонопольный комитет в США постановил, что использование одной архитектуры Точнее, единственный производитель процессоров для рынка — это плохо. Поэтому они прямо натурально заставили Intel продать лицензию на свою архитектуру 8086 компании. AMD и компания AMD, соответственно, производила процессоры по лицензии на ту же самую x86 архитектуру. И вот такой вот двумвераз сложился, да, то есть две компании, которые плюс-минус поделили рынок и как-то между собой конкурировали. Кстати, опять же, немногие знают. Просто в силу удавности, что Intel, вообще говоря, свою архитектуру x86 тоже лицензировал вполне себе. И лицензировал её, например, китайской компанией VIA. Она уже, по-моему, патчила в Бозе, но тем не менее, компания VIA тоже производила компьютеры на архитектуре x86. И они не то чтобы имели какой-то серьезный успех, но тем не менее в Китае пользовались спросом. И это говорит о том, что действительно кажется, что сейчас мы находимся примерно в той же ситуации, что Intel там, типа, сколько там, 50 лет назад. Соответственно, идея в том, что наш Jensen Huang создал уникальную рыночную ситуацию, уникальную рыночную нишу, и эта рыночная ниша позволяет ему зарабатывать триллионы долларов, а соответственно, все остальные. То не NVIDIA, они, соответственно, платят ему серьёзные деньги. В общем-то, ему, конечно, можно только... Позавидовать и всячески пожелать успехов, но кажется, что он антимонопальному комитету имел бы смысл. Как-то на эту Ситуацию посмотреть. Я не помню никаких разбирательств по этому поводу. Как они отбились? Наверняка что-то такое пытались поднимать, но как-то, видимо, отбились от этого. Ну, типа, существует AMD, которые вроде как что-то своё делают, да, существует кто-то ещё, которые тоже своё что-то делают, но у них такая крохотная доля рынка, что фактически её там можно не считать.

Дмитрий Колодезев 17:42
Хорошо, когда технологии развиваются. Кстати, про процессоры был Cyrix. 386 SX, по-моему, как раз у тебя времена. Тогда же, когда VIA делал, делал ещё и Cyrix процессоры. И Cyrix вымер по моей, насколько я помню, было очень давно, ещё динозавры ходили. Windows 95, когда вышла, Cyrix процессоры её не тянули, а AMD работали. Intel работали, а на Cyrix она просто не ставилась. Я лично три дня промучился, поехал купил в AMD. А вот и когда я его покупал, мне сказали, да пари, это невозможно. Вот, то есть, идея в том, что контроль над рынком процессорных технологий есть ещё и у тех, кто контролирует софт. Вот, то есть в некотором смысле, PyTorch, он соавтор, так сказать, доминирования CUDA, хотя он тоже TPU поддерживает, но, кстати, не так давно. Логично было бы для Китая развивать, например, не только свои процессоры, но и свой вот этот вот стек, который, в общем, там есть и собирается. Вот, а это значит, что мы отвалимся от них гораздо сильнее, потому что использовать разные GPU — это ничего. Переучиваться с PyTorch на падал-падал, чуть не хочется.

Валентин Малых 19:19
Ну, смотри, тут какая история? На самом деле, в Китае... Я лучше знаю про Huawei по понятным причинам, и там у них действительно есть весь свой стек, начиная от Железки, потом CANN, это аналог CUDA, и сверху него идёт свой MindSpore. Он такой, по ощущению, нечто среднее между PyTorch и Keras, если кто-то вообще помнит, что это такое. Как показала практика, к счастью или к сожалению, MindSpore на текущий момент не взлетел. Да, то есть, он, видимо, ну просто в силу доминации PyTorch, никто особо на него писать не хочет, даже из-под палки, и поэтому... Насколько я понимаю, именно было сделано портирование PyTorch на те же самые Ascend. Вот есть. Есть портированный PyTorch, то есть он развивается, это же open source, да, и там есть. Контрибьют от Huawei, в котором они, соответственно, добавили поддержку своей архитектуры. Это, правда, старенькая версия. Да, я не помню, какую сейчас версию они поддерживают, но она всегда довольно сильно отстаёт по понятным причинам. Вот, так что пока что можно считать, что сильно далеко не отвалимся. Это одна история, а вторая история, про которую я хотел Поговорить это про как раз вот эти вот процессоры с альтернативными архитектурами. Например, армовые, да, или какие-то RISC-V. Эти процессоры действительно во многом энергоэффективнее, и у них есть конкретная польза, потому что у них есть ниша, да, там, например, в роутерах очень часто RISC-V процессоры стоят. Ну, не только RISC-V, RISC-V имеется в виду, а вообще RISC как класс процессоров. Там, соответственно, о чём нужно сказать, что NVIDIA пошла на поляну Intel и пошла на поляну Intel таким образом, что она просто Добавила поддержку ARM процессоров в CUDA. Да, теперь недавно была новость, что теперь у нас CUDA может быть гетерогенный. И поддерживать вычисления на нескольких. Типах устройств, и это уже такой звоночек для Intel. Кстати, ты упоминал ещё про то, что... Софт очень сильно работает связь с железным. Это действительно так. Если помнишь, ты, наверное, знаешь этот термин, Wintel, да, что Windows плюс Intel, да, то есть у нас. На рынке железа, прежде всего офисного и домашнего, образовалась вот такая связка между компанией Microsoft и компанией Intel, и они, соответственно, совместными усилиями забороли всех конкурентов, потому что Windows идёт только на Intel, а соответственно, без Windows вообще сейчас жизнь не имела очень многим людям до сих пор. Да, то есть люди привыкли в ней работать в течение десятков лет и продолжают. Вот поэтому. Это довольно важная история. Получается, что мы сейчас как раз в той точке, когда монополия начинает пошатываться. Непонятно, по каким, так сказать, разломам она распадётся, но пошатывается, она уже начала ощутить.

Дмитрий Колодезев 22:55
А здесь трещины монополии растут интересные технологические цветы.

Валентин Малых 23:01
Ну да, да, это так. То есть мы посмотрим, что там будет, потому что про MIPS и риск и всякое такое можно довольно долго разговаривать. Кстати, вот мы с тобой не договорили, да. Китайцы же сделали две важных истории. Во-первых, Был стартап, он, по-моему, сейчас есть, он называется MoreThreads, да, больше тредов. Не знаю, что они имели этим в виду, но суть в том, что они сделали вроде как видеокарту, которая поддерживает CUDA. Я подозреваю, что она поддерживает CUDA с очень большим грехом напополам. Но, как известно, китайцы в основном атеисты, поэтому это их никогда не смущало. Соответственно, эта штука вроде как существует, её вроде пытались продавать даже в России, не знаю, сколько успешно, вроде бы нет, но про неё особо ничего слышно не было. Но пункт два, который, кстати, гораздо более интересный, я про него сразу забыл, а вообще говоря, следовало про него сказать, он заключается в том, Что вот эти вот процессоры от Alibaba, про которые упомянуто, по слухам, тут я опираюсь только на новости, свечку, что называется, не держал, они тоже поддерживают CUDA. То есть у меня есть гипотеза, не знаю, сколько она правильная, что китайское правительство намекнуло. Соответственно, к компании NVIDIA, что давайте-ка вы лицензируете CUDA вот этим вот прекрасным парням, чтобы иметь возможность зарабатывать у нас много денег. Я подозреваю, что как-то так звучал разговор, пусть и на китайском. Вот, и если действительно всё так, то это серьёзная заявочка, потому что Alibaba — компания с большим количеством ресурсов, и я думаю, что они всё-таки смогут сделать процессор, который, ну, по аналогии с AMD, будет конкурировать с NVIDIA.

Дмитрий Колодезев 25:04
Слушай, а про вот ты вот сказал про лицензировать, а тут же была история, была история какое-то время назад, что NVIDIA тоже контрибьютировала open source. В том смысле, что у неё сливали исходники, и был скандал, потом он как-то замялся. Вот это в прошлом году, по-моему, было, но в общем, по меркам процессоров, это, так сказать, вполне.

Валентин Малых 25:30
Интересная мысль для этого. Если действительно у них была слита какая-то внутренняя документация, то вполне может быть.

Дмитрий Колодезев 25:37
Говорили, что это китайское правительство, и ну кто знает, сейчас это полная галлюцинация. Но если бы я был китайским правительством, я бы после чего-то contributing open source раздал нужным людям.

Валентин Малых 25:50
Ну да, и я бы, будучи китайским правительством, соответственно. Предложил, соответственно, компании NVIDIA просто не переживать, да, а предложил какой-то вкусный пряник, что вот мы. Давайте закроем глаза совместно, а вы потом просто будете молчать. И всем всё, наверное, было бы неплохо. Ну, не знаю, это наша с тобой совместная галлюцинация. Насколько это всё близко к правде, не берусь судить. Ладно, я думаю, что тут мы уже что-то долго задержались. Я предлагаю перейти на следующую новость. Следующая новость NVIDIA Соответственно, запускает новый новый ускоритель, который называется Rubin, видимо, Rubin ЦПХ. И он как раз направлен на то, чтобы видимо отчасти решить ту проблему, про которую мы с тобой говорили про Говоря про прошлые новости, что здесь он действительно направлен на то, чтобы эффективно поддерживать искусственный интеллект. И в частности, вот обещают соответственно, LLM-ки с окном в 1 миллион. Ну, насколько мы знаем, что один миллион LLM-ки пока поддерживают, может быть, не очень хорошо, но на самом деле, наверное, это не такая большая проблема, что они там не очень хорошо поддерживают, когда-нибудь будут поддерживать хорошо. А вот железка, которая официально это поддерживает, вот появилась. Что скажешь?

Дмитрий Колодезев 27:28
Ну вот я смотрел, железка это вроде как состоит из двух типов ядер, то есть GPU-A и GPU-B. И GPU-A, которая оптимизирована для того, чтобы насчитать KV-кэш. То есть мы прогоняем контекст. Нам, собственно говоря, результаты не нужны. Нам нужен насчитанный на нём KV-кэш. Таким образом, мы можем длинный контекст перепроцессить и потом уже из него генерировать ответики. И вот если посмотреть, как, например, работают кодогенерация, как оптимизируется кодогенерация, один из способов — это мы насчитали кэш, а потом от этого состояния мы Начинаем, ну вот, кодовые подсказки, они же короткие, но используют твою длинную кодовую базу в качестве перенасчитанного кэша. В принципе, это вообще можно разносить на разные устройства, и по-моему, так и. Люди делают, а потому что такая технология, она может быть, оживить такие, знаешь, мертворожденные идеи, типа Context-Augmented Generation, как раз где вся основная идея, что ты быстро насчитываешь KV-кэш и потом просто из него инфинитишь вместо рега.

Валентин Малых 28:50
Ну да, про KV-кэш, ну, ну, прям сильно мертворожен. Я бы это и не стал называть, потому что я видел работы, которые это показывают, что вместо RAG можно KV-кэш использовать, и вроде даже получается неплохо. Я не буду спорить, что на практике я это не видел. Видимо, не настолько хорошая идея, но тем не менее, кто-то пытается.

Дмитрий Колодезев 29:11
Чуть-чуть работает, чем просто RAG. И, в общем, поэтому, наверное.

Валентин Малых 29:17
Ну, мне кажется, тут, знаешь, она не только хуже работает, тут есть ещё одна важная часть, про которую обычно мы как-то не проговариваем, да, что Для нас, для нас, я имею в виду, как для пользователей, вот эта вся история, для нас принципиально важно на самом деле. Особенно это в бизнесовых приложениях интерпретируемость, да, типа, откуда она взяла вот эту фигню, почему она её сказала, почему мы так ненавидим галлюцинации, почему мы с ними так активно боремся, потому что когда она говорит ерунду, надо понимать, почему она сказала ерунду, да, то есть откуда она взяла, что вот это именно так, а не иначе. И когда мы говорим про использование RAG в явной форме, то RAG в явной форме в этом смысле гораздо лучше, потому что там можно глазами прочитать, что да, ага, вот она взяла это из документа, и значит, в документе была лажа, а не что у нас, соответственно. Модель глючит, или наоборот, чтобы в документе было всё правильно, эта модель глючит, давайте что-то у нас менять с моделью. То есть интерпретируемость в раге очень в этом смысле полезна и важна. Это, собственно, одна из ключевых вещей, почему раги стали так популярны. Потому что людям важна интерпретируемость.

Дмитрий Колодезев 30:33
Очень интересный пускоп на руках. Я про неё почему-то так не думал. Вот, но в целом согласен. Прикольно, опять же, как в своё время порнография развивала сжатие изображений, игры разживали видеоускорители, а теперь и я. NVIDIA вот эти архитектуры вычислительные, высокопроизводительные. Потому что, вообще-то говоря, векторные процессоры были задолго до появления компьютерных игр. Тот же самый Крей был векторный процессор. И сами по себе идеи там были, но они были доступны узкому кругу инженеров для программирования, и никого кроме людей моделирующих атомные бомбы и погоду не интересовали. А тут вот сейчас.

Валентин Малых 31:21
А вот сейчас попёрло, да, то есть если бы Крей это сделал не в 80-х, а где-нибудь хотя бы в 2000-х, а лучше в 10-х, то, может быть, тоже отзолотился, кто-то знает. Может быть, фамилия Хуанга была Блокрея, может быть, они бы заключили гинастический брак. Давай думать о чем-то хорошем. Ладно, давай пойдем к следующей новости. Следующая новость тоже про железку, но это такая скорее эзотерика. Я ее специально включил, потому что есть один энтузиаст. Даже не буду пытаться воспроизвести его имя, но прочитаю неправильно. И он придумал. Штуку, которую назвал непроизносимым для меня названием, что-то типа Buija, Buija, бог его знает. В общем, этот самый Buija — это карточка. Ну, имеется в виду форм-фактор обычной карточки, вот как показано на рисунке. И там она умеет, соответственно, на себе инфилить LLM-ку маленькую, и она умеет, соответственно, эта карточка даже общаться с тобой. Если помнишь, мы с тобой разговаривали пару недель назад или типа того, про то, что вот у нас есть, соответственно. Разные штуки, которые заменяют смартфон, да, и одна из штук, которая теоретически может заменить смартфон, это электронная татуировка. И я всё говорил о том, что я не понимаю, как электронная татуировка будет с тобой общаться, да, то есть за счёт чего, что она тебе, как бы, как она тебе скажет что-то. А вот тут вот как раз на самом деле есть способ Выбраться, способ что-то выдать для этой карточки. Это понятно, что это чистая игрушка, и никакой здесь ничего хорошего из этого не выйдет, потому что читать по буквам — это прям отдельный вид извращения. С тем же успехом здесь могли быть точкой-тире, то есть это. Ещё сильнее судило бы класс людей, которые хотят этим заниматься. Но, соответственно, тем не менее, вот человек сделал вот такую штуку. Прикольно, что он прямо Выложил схему, вот я сейчас её показываю, да, то есть у него тут есть вводы-выводы, и, по-моему, он даже выложил полноценную распиновку, чтобы всё это можно было соответственно воспроизвести при желании. Вот, но это я бы назвал такой, знаешь, технооптимизм, вот как-то так.

Дмитрий Колодезев 34:03
Слушай, он упорулся гораздо сильнее, чем кажется. Вообще-то говоря, а почему она называется Ouija? Его зовут Бим, этого парня, нормальное китайское имя, да. А Ouija — это доска для вызова духов. То есть для спиритических сеансов. И вот она именно так и выглядела сто лет назад. Вот и он её, собственно, воспроизвёл технологию, там была такая же. То есть люди вызывают, там маятник показывает на какую-нибудь букву, они её считывают. То есть в этом смысле. Именно она ровно так же и выглядит, как его доска. Меня заинтересовала. Вот, да, и поэтому технология там была такая же. Там и читали по букве, то есть это такой хорошо отработанный стёб длиной в сто лет. А вот, а я посмотрел. Какая моделька там крутится и на каком процессоре, то есть у него. ESP32, 8 мегабайт оперативки, 16 флешки. И крутится там TinyLlama. Я про неё слышал, но никогда не пробовал. Да, и реально Tiny Lama, она 1B-модель с весами в 600 мегабайт. И в общем, да, она на ESP-шке, оказывается, крутится. Просто ESP-шка такая маленькая штука, что последнее, что мы на ней делали, вот. В офисе это поделка, которая, простите, отслеживает, закрыта ли дверь туалета или нет, и на веб-сервере говорит, ребята, туалет свободен офис. То есть я не думал, что он на что-нибудь. Да, это был очень важный проект, на самом деле. Вот, но я не думал, что он на что-нибудь больше способен, оказывается, там можно и в LLM гостить.

Валентин Малых 35:59
Да, но вот спасибо за этот про спиритический сеанс. Я что-то не уловил связи, хотя да, сейчас это стало очевидно. В общем, это какая-то, это, конечно, своеобразный юмор у человека, прямо скажем, но повторюсь, я настаиваю на том, что это полный технооптимизм, настолько прикольно сделано. Окей, я думаю, что про технооптимизм поговорили. Давай переключимся на следующую историю. Это достаточно понятная штука. У нас периодически такое происходит. Значит. Сам заголовок мне понравился, что vibe coding is dead, то есть vibe coding для дедов. И сейчас уже рулит агентное роевое написание кода, то, что теперь хочет бизнес. Да, то есть у нас новый buzzword — это agent swarm. Ну, здесь показывается довольно известная картинка. Что агенты сначала могли две минуты работать и не сломаться, соответственно, потом в феврале они могли работать двадцать минут и не сломаться, а сейчас они могут работать уже три часа и не сломаться. И за счёт этого предполагается, что весь этот ваш vibe coding вообще, говоря, никому нафиг не нужен. Зачем нам, как бы, напрягать человека говорить что-нибудь, да, зачем? Говорить какие-то слова, что-то там корректировать в процессе, да, говорить, что здесь неправильно переделай, когда мы можем максимально быстро приблизиться к светлой мечте всего человечества, точнее, той части человечества, которая представлена менеджерами среднего звена в крупных корпорациях. Это просто дать техзадание и потом, соответственно, уйти пить кофе до тех пор, пока техзадание не будет выполнено. Я, может, немножко утрирую, но это действительно мне лично очень сильно напоминает. То, как это описано в нестареющей книге Виктора Олеговича Пелевина, «СНАФ», там, о, пардон, это не «СНАФ». История в том, что там было понятие. Случайного кодирования, да, случайное кодирование. Это мы берём и генерируем код до тех пор, то есть продолжаем генерировать, генерировать, генерировать код до тех пор, пока он не начнёт выполнять то, что нам нужно. Всякие там чистые функции, сторонние эффекты, вот это всё в мире вот этой книги и всё больше и больше в нашем мире, конечно, уже перестают волновать. Просто всех, да, то есть бизнесу надо, чтобы задача была выполнена с минимальными затратами, трудозатратами, да, с минимальными затратами на людей. И мы все, в общем, приходим к тому, что это просто происходит.

Дмитрий Колодезев 39:07
Но это мне всё напомнило анекдот примерно тридцатилетней давности про Боткина и студентов, когда Боткин завалил. Врач великий студент на анатомии, и его сокурсники пришли к Боткину, сказали, ну поставьте ему зачёт, он с горя пронзит себе ножом сердце. Он завалил анатомию, сказал Боткину, не найдёт сердце. Вот, то есть менеджеры среднего звена, которые написали ТЗ, отдали его агентом. Для меня звучит на самом деле примерно как этот же самый анекдот, то есть они не найдут сердце, но дело не в этом. Вайп-кодинг, внезапно, вот я вчера весь день разговаривал с сотней умных людей, то есть я реально ходил, всех охватал за пуговицу и расспрашивал, и что-то ещё рассказывал на DataFest. И у вайп-кодинга есть хорошая ниша, она образовалась, а именно быстрое прототипирование с целью собрать требования. То есть не сгенерировать код. Код-то программисты и сами напишут. Обычно самая большая проблема, особенно с менеджером среднего звания, понять, что же они хотят. И вот в этом смысле vibe-coding, который на гора показывает штуку, которая почти работает, нажимают кнопки. И клево, он просто бесценен. Так же, как у дизайн-агентства, теперь Midjourney, которая генерирует картинки. Киндролитон тоже бесценно. Реально теперь можно спросить клиента, это действительно тот самый котенок с семью параллельными линиями, четыре из которых пересекаются. Вот и в этом смысле веб-кодинг, он не то чтобы мёртв, он скорее всего приземлился просто как нормальный инструмент в нашем стеке. Что касается агент Xvarm кодирования, тут есть хорошая статья про то, как устроен Claude Code. Вот и там педалируется мысль, что на самом-то деле их кодер, Claude Code, он вообще-то лучший сейчас из кодеров, и он устроен проще всех. То есть, хорошая инженерная вещь, она не требует именно многих агентов. Зачем нам много агентов? Зачем мы это делаем? То есть, какую проблему мы решаем? Вот поэтому я думаю, что пока это клёвый заголовок такой. Но в общем, да, агенты развиваются, всё клёво. Но тут опять же, давно ли мы? Собирали машкод руками. Его давно собирают компиляторы, и нас это вообще не беспокоит. То есть, мне на DataFest один молодой человек говорит, слушай, но мы же потеряем контроль над кодом, который генерируется агентами. Я говорю, мы контроль над мошкодом потеряли давно и ничего. То есть, почти никто не использует хинты для C++ компилятора. Как-то справляемся же.

Валентин Малых 42:03
Слушай, я помню, да, что это было на заре моей карьеры. Это была большая история про то, что были куски. Допустим, в ядре Linux, которые написаны на чистом ассемблере, просто потому что там были такие программисты, которые говорили, что ну иначе мы потеряем очень много, да, много производительности. На самом деле, в тот момент, вот когда я наткнулся, это для меня была очень свежая мысль. Я её расскажу, наверное, ты давно уже ей владеешь. История про то, что там. а Один человек рассказывал свою карьеру программиста. Да, сначала, говорит, я писал на Си. Вот я писал на C, всё было неплохо, потом появился C++. Да, C++ в целом, конечно же, не такой красивый, как C, но я за то же самое рабочее время могу написать больше. Да, то есть, больше полезных штук я могу написать. А потом он пишет, появилась Java. Да, Java, конечно же, не такая эффективная, как Си и С++. Да, там потеря, соответственно, производительности будет, ну, 20%, может быть, даже 30%. Но за то же самое время на Java я напишу там, типа, в пять раз больше кода, чем на Си. Я принесу просто больше пользы. Вот для меня это была очень такая глубокая мысль, что на самом деле все инструменты, они как бы имеют свои плюсы и минусы. Вопрос в том, что мы для чего применяем. Да, у нас есть, допустим, отдельно лежит молоток, отдельно лежит лопата. Да, мы можем, соответственно. С помощью молотка копать, но это не очень эффективно. Вопрос в том, что мы действительно потеряли контрольным машинным кодом просто потому, что он сейчас не нужен. Наши процессоры позволяют нам компенсировать недостатки нашего кодирования. Кстати, да, Джон Кармак недавно в эту же сторону высказывался, что типа, если бы люди умели эффективно кодировать, у нас бы давно тут Юпитер осваивали или что-то такое он говорил, но суть к этому сводилась. Фактически людям, вот по-честному, ни машкод, ни даже код носили на Java, вообще говоря, не нужен. Им нужно, чтобы решалась проблема. Если проблема решается тем, что нужно купить процессор помощнее, они просто покупают процессор помощнее. И мне кажется, мы всё равно придём к тому, что да, у нас будут писать код агенты, ну просто потому что они пишут много кода, да, может, неэффективно, но нам просто надо научиться контролировать, чтобы не писали плюс-минус в ту сторону, как нам надо. над

Дмитрий Колодезев 44:45
Ну, а тут. ааа Моя, допустим, работа уже много десятилетий — это промпт-инжиниринг. Угу. А не на агентах. И в этом смысле я не ожидаю больших проблем. Мы будем промчивать другие устройства. у Вот ассемблере и так далее в какой-то момент в середине моей, так сказать, менеджерской карьеры. А софтверо-менеджера я интересовался научными трудами на эту тему. Там были труды, например, что люди пишут одно и то же количество строк на любом языке программирования. В час, вот, просто одна строка тащит разное количество смысла на ассемблере и на питоне. И естественно, что у нас получается, мы всё более и более компактно излагаем свои мысли, более, мы больше успеваем сказать за рабочий день, когда мы беседуем с компьютером. Ну, просто это новое развитие, технологии. Я не переживаю по этому поводу, я технооптимист.

Валентин Малых 45:55
Мы с тобой уже тут технооптимистов обсудили, соответственно. Я считаю, да, что мы просто как бы делаем следующий шаг абстракции. И следующий шаг абстракции, он, да, он действительно несёт за собой некоторую неэффективность, но вопрос в том, что мы можем сделать больше, и даже если то, что мы сделали сейчас, оно неоптимально, ну, оно нам может вообще не понадобиться через полгода. Да, давайте просто успеем сделать больше. Вот китайские товарищи очень любят такое в реальной жизни производить, они там. Сделали дом, ну, с некоторым качеством, да, там, объективное качество строительства в Китае, не всех домов идеальное. Но они просто знают, что данный дом, он будет стоять 20 лет. Вот через 20 лет его снесут и построят новый дом, который будет уже с новыми технологиями и там в три раза лучше. Ну, надо просто понимать, да, ограничения. Если нам код, который мы пишем, Не понадобится уже через полгода, ну так давайте мы просто его выкинем и напишем новый, особенно учитывая, что у нас сейчас вот такая вот замечательная история с агентами, которые сами этот код пишут по 50 раз, 50 раз быстрее. Что, я думаю, пойдем дальше. Следующая история — это про то, что у нас тут даже, мне кажется, собственно, само название и картинка скажут всё, что здесь есть, но, может быть, я чего-то не уловил. Значит, для больших компаний намерился тренд снижения. Как это по-русски? Adoption, то есть снижение компаний, процента компаний, которые применяют ИИ. В своей работе, то есть все остальные компании увеличивают. ИИ использование ИИ. Группные компании снижают, ну я. Я дам свою интерпретацию, а потом мы посмотрим, соответственно, как наши интерпретации совпадают. Ну, моя интерпретация следующая, что крупные компании — это компании, у которых банально больше денег, поэтому они были первыми, кто занялся вот этой адаптацией. ИИ, ну имеется в виду из компаний, у которых есть какой-то такой более-менее стабильный кэш-флоу. И соответственно, они стали внедрять ИИ. И везде, где только можно по разнарядке. И в основном, разнарядка приходила туда, куда нельзя. Да, то не везде и нужен прямо сейчас. Может быть, когда-то и будет полезен, но прямо сейчас, вероятно, нет. И сейчас просто пошёл откат, то он смешивается, что стали отказываться от тех мест, где ну и действительно не нужен. Да, вот там, где он реально не приносит пользы, просто немножко стали откатываться. А остальные компании, типа компаний, да, как видно, продолжают расти, но это просто связано с тем, что объективные технологии развиваются, и они покрывают больше кейсов, которые уже маленькие компании могут адаптировать, ну хотя бы даже средние.

Дмитрий Колодезев 48:54
Слушай, ну если внимательно посмотреть на графике, да там несколько типов компаний, то растёт только голубенький и зелёненький. Вот, то есть от одного до четырёх человек и типа десять-девятнадцать. По большому счету, там и adoption rate. Заключается в подписке на ChatGPT, мне кажется, в компании такого размера. Но меня другое заинтересовало. То есть это данные от US Census Bureau, то есть такая у них, в общем-то, официальная вещь. И если посмотреть, то верхний предел и adoption у нас 14%. А я коллекционирую эти отчеты, и у меня куча отчетов, в которых верхний предел там и adoption, и 80%. Пять процентов фирм используют шестьдесят пять процентов. Вот, а когда они, местные налоговые, так, кстати, читаются, не говорят, 14%. Вот и вот меня вот это несовпадение в шесть раз заинтересовало.

Валентин Малых 50:07
Ну, слушай, тут, может быть, они это самое, там какие-нибудь налогины ивели. Я не знаю, как тут ещё интерпретировать вот такое несовпадение. Ну, за исключением того, что банально врут в маркетинге. Ну, прямо настолько откровенно врать — это уж как-то чревато, мне кажется. Ну, то есть, уж в шесть раз это перебор. Ну, соврать на двадцать процентов, я понимаю, да, там преувеличили, бывает. Но в шесть раз это как-то уже слишком.

Дмитрий Колодезев 50:35
У меня есть более простое объяснение. Дело в том, что в конторах, особенно в больших, у них есть куча феодальных ведомств, и одно из них общается с US Census Bureau, а второе пишет маркетинговые эти. И с их точки зрения история может выглядеть совершенно по-разному.

Валентин Малых 50:57
Да, ты прав. Действительно, это может быть так, но подожди. Ну, в крупных конторах, допустим, да, но остальные-то у них нет понятия феодальных ведомств. Просто если у тебя компания четырёх человек, ты сам себе и феодал, и, в общем-то, разнорабочий.

Дмитрий Колодезев 51:22
После конторы, которые tax advisor и так далее.

Валентин Малых 51:26
Хороший вопрос, действительно хорошее предположение. Насколько я знаю, я... Не очень погружен в эту тематику, но вроде бы наши методики составления вот такой вот информации у Росстата и у вот этого Центра Сберона, они не то чтобы совпадают, но, скажем так, построены по одному принципу. А принцип такой, что Там есть некая экстраполационная модель, а для того чтобы в неё базовые данные ввести, они отбирают некоторое количество. Компаний, да, то есть каких-то компаний. Определённо в размере, ну, там четыре человека, да, там десять человек, вот это всё. И, соответственно, они всё-таки каких-то реальных людей в принципе опрашивают. Может быть, они там данные сами обрабатывают, да, то есть готовят отчёты, они на своей стороне, но опрашивают. Теоретически они всё-таки каких-то реальных людей опрашивают. Крупных, может быть, они компании все опрашивают, а вот мелкие — только выборочно. То есть тут вопрос экстраполяции, но, тем не менее, даже на этой экстраполяции видно, что, ну, какой-то рост вполне себе происходит.

Дмитрий Колодезев 52:32
Ну, в общем, мутноватая статистика по E-Adoption, на самом деле, у всех. Согласен, да, тут есть какая-то сложность, которая мне...

Валентин Малых 52:45
Непонятно. Окей, я думаю, что тут обсудили. Давай дальше. Дальше, на самом деле, тут я хотел, наверное, в первую очередь тебя послушать, потому что здесь довольно много разного, что написано. Это у нас номинации на EA премию Дарвина и базовой информации, да, что здесь подается. Некоторые Некоторые кейсы. Кейс, да, он как-то верифицируется, и, соответственно, там есть описание. Это довольно большая страница, тут много всяких кейсов, может, ты расскажешь самые интересные.

Дмитрий Колодезев 53:26
Слушай, ну интересно, что они искали бизнес, скажем так, грабли, то есть когда люди от души наступили на грабли, и это было обусловлено искусственным интеллектом. И вот там есть Refight и и Inelegable, то есть мы решили, что они всё-таки не из-за искусственного интеллекта наступили некоторые, а сами такие. Да, то есть искусственный интеллект не виноват. То есть если самую первую посмотреть, верхнюю. Вот она и Лего был, и они отдельно поясняют, почему мы считаем, что искусственный интеллект не виноват. Вот, ну, в общем. В общем, мы считаем, что Они сами Так сказать, мороны, а. От дурака ничего не спасёт. Вот история тут в том, что... Все базовые, эпические фейлы с искусственным интеллектом используют одну и ту же троицу, как они тут упоминают триаду. То есть, во-первых, мы берём, что-то делаем, у нас получилось, и мы не тестируем, выкатываем это на всю корпорацию. А вот, во-вторых, мы мы Когда к нам приходят, мы пытаемся замести ошибку под. Ковёр, то есть, не-не, у нас ничего не случилось, и тем самым мы делаем ошибку из маленькой катастрофической. Вот, ну и слепая вера, что в общем, в искусственный интеллект достаточно что-нибудь закинуть, и само собой будет хорошо. Вот, то есть в размерах большой конторы это вот. Почти всегда кончается таким вот эпик фейл.

Валентин Малых 55:21
Окей, хорошо. Ну, в общем, все желающие могут почитать, что там ещё. Есть довольно много всего. Я говорю, даже не осилил, поэтому и попросил Диму высказаться. Но, как бы, хорошую вещь Примадонну не назовут, как известно. Давайте переключимся на следующую новость. А я тоже не совсем понял. В чем тут замес, потому что я не смог. Найти какого-то источника, который более. Полно без подписки описывал. Во-первых, есть такой человек Юрий Лешкович или Лешкович, не знаю, как он правильно. Я про него вообще в целом слышал. Какой-то действительно человек, который занимается компьютерной лингвистикой довольно давно. И сказал, что тут написано, что он два года назад перешел на письменные экзамены из-за того, что появился ИИ. И, соответственно, говорит, что Студенты на этом настаивают. Собственно, на этом подробности заканчиваются. Может быть, у тебя есть какие-то подробности, которые можно обсудить.

Дмитрий Колодезев 56:30
Слушай, он довольно известный человек, то есть преподаватель Стэнфорда. Я, кстати, слушал его лекции. Вот у него ужасный акцент, но он говорит дело. А они а Он делает много интересного. По-моему, он один из. Авторов Учебника по НЛП вместе с Журавским. Возможно, тут я могу путать. То есть, вот эта книга Журавского, она, по-моему, с Левковицем была вместе. Вот, а еще. И история в том, что многие люди, которые преподают, ко мне подходили, в том числе вчера, тоже на Натафесте. А как же жить, как преподавать в эпоху ChatGPT? Угу. Вот, и вот вчера был это. Вот великий мозговой штурм из ста человек. И я Оттуда вынес следующую идею. Что на самом деле, ну это вот, знаешь, во время спора вдруг ты понимаешь, что есть вот такой ещё способ, да, что можно. Человека, который пришёл к тебе собеседоваться, садить за консоль ChatGPT и говорить, вот тебе задача, добейся от ChatGPT ответа на неё. И смотреть не то, что ответит ChatGPT, а что он у неё спрашивает. Потому что это, знаешь, как интерпретируемость через вот это. Как через reasoning, то есть ты фактически под капот заглянешь его процесса принятия решений и анализа данных. И в общем, это всё тебе про него расскажет. Вот, а по смыслу, ну действительно, люди же идут разными способами. Кто-то пытается запретить использовать языковые модели, кто-то, вот у меня знакомые. Коллекционирует задачки, на которых ChatGPT ошибается. Ну, то есть, как-то выкручиваются. Но мне кажется, что это всё тупиковый период. Мы затрудняем студентам работу. Запрещаем использовать ChatGPT, как если бы мы отбирали у них калькуляторы. На самом деле, надо смотреть, насколько они успешны как профессионалы. А профессионалы будут использовать ChatGPT, будут использовать Claude. Давайте посмотрим, что за кашу у них в голове на основе того, какие запросы они туда киняют.

Валентин Малых 58:57
Слушай, да, это хорошая мысль. Я вот после твоих слов тоже подумал о том, что надо попробовать адаптировать вот этот подход, потому что, ну, в принципе, когда Что я сам проходил собеседование, что я собеседую. В принципе, всё примерно одинаково, что ты просишь человека написать код, но ты ему говоришь, что дорогой человек, пожалуйста, не думай про себя, да. Озвучивай свои мысли, что ты здесь пытаешься сказать, чтобы я понял, как бы, что ты здесь делаешь и тебе что-то подсказал, может быть. Да, то есть это же фактически оно и есть. Да, то есть это тот ризинг, который мы и хотим от человека добиться для того, чтобы понять, как он поведёт себя в плюс-минус какой-то рабочей ситуации, да, насколько он сможет решать реально возникшую задачу. Учитывая, что сейчас в реальной жизни люди пользуются ChatGPT, то как раз просить онлайн. Общаться с ChatGPT для решения задачи, по-моему, прекрасная идея. Надо так делать. Да, понятно, что не обязательно ChatGPT, тут не сочтите за рекламу. Просто любая достаточно большая языковая модель, достаточно качественная, может быть, ChatGPT просто как пример. Да, спасибо. Давай, соответственно, поговорим про следующую новость. Звучит она так. Значит, отец ИИ Джеффри Хинтон говорит, что однажды девушка Порвалась с ним, используя чат-бота. Но тут-то внизу есть уточнение, что не просто чат-бота, а прямо ChatGPT. Вот это меня, честно говоря, прямо выбило из седла, что называется, потому что... Как там, а ты всё ещё крепкий старик, да? То есть, Джеффри Хинтону как-то, по-моему, хорошо за 70? 77 лет ему. 77, да. И ну, предположим, предположим, что он был одним из пионеров использования ChatGPT, да, и девушка с помощью ChatGPT, соответственно, его бросила прямо в 22-м году, ну, как бы, 74. Я тут просто снимаю шляпу виртуально, то есть.

Дмитрий Колодезев 1:01:13
Он написал, ну что ж, вы знаете, как это бывает. Я подумал, что я не так плохо нашёл следующую, то есть, вот, просто порадоваться за него.

Валентин Малых 1:01:20
А, ха-ха, Не, здесь да, здесь просто и омоложает, я бы вот так вот даже сказал, да, но насколько круто, что Джеффри Хинтон в таком возрасте, ну, с другой стороны, может, его гёрлфренд тоже не эта самая, не студентка двадцатилетняя, а какой-нибудь профессор примерно сравнимого возраста, но тем не менее, сам факт, да, то есть, как оно повернулось-то.

Дмитрий Колодезев 1:01:49
Интерес к жизни есть, да, но я что хочу сказать, что я встречал такое в дикой природе лично, когда... Люди идут за аргументами к ChatGPT, и оно им объясняет, что вот что ты, вот ты молодец, а он, например, там социопат или что-то ещё такого. То есть, а вот и не то чтобы это было вообще-то хорошо.

Валентин Малых 1:02:21
Нет, погоди, но тут, мне кажется, стоит обсудить, потому что это не то что нехорошо само по себе, это вопрос-то в том, что ChatGPT люди этого не осознают. Он вообще говоря И не только ChatGPT, опять же, многие модели, они натренированы с тобой соглашаться. Да, то есть они… И усиливать то, куда тебя понесло. Именно, да. То есть мы уже сталкиваемся с, к сожалению, негативными последствиями, когда там кто-то там, в общем, что-то с собой нехорошее сделал, да, или с другими людьми что-то нехорошее сделал. Это, в общем, большая проблема. А на самом деле… Если мы говорим особенно про межчеловеческие отношения, мы получаем. Мы видим очень-очень негативную историю, то есть человек в данном случае не может осознать свою ошибку. Это не значит, что он обязательно не прав, что идёт в ChatGP, может быть, он и прав. Но у него отсутствует вообще эта опция, да, посмотреть на другую сторону, что бывает крайне полезно, когда мы говорим именно о межчеловеческом общении. И вот это страшно, да, то есть люди, которые не пытаются взаимодействовать с другими людьми, да, то есть это такая, есть такая философия. Солипсизм, да, когда мы говорим, что существует только один разум, мой текущий, всё остальное является иллюзией. И в этом смысле ChatGPT как раз подталкивается к этому глобальному солипсизму, да, то есть у нас. Человек, который работает с ChatGPT, вот именно в этом ключе, он как бы остается всегда при своем мнении и считает, что только он вообще существует и действует. И вот это вот большая угроза, да, то есть сейчас у нас. Этим занимаются подростки, да, а если разрешить это детям, там, не знаю, которые уже научились говорить и она умеет распознавать и голос, то, ну, мы, в общем, довольно быстро вырастем поколение людей, которые не очень представляют, как вообще, в принципе, с людьми разговаривать, что, по моему взгляду, нехорошо.

Дмитрий Колодезев 1:04:31
Люди много общающиеся с ChatGPT, дети, они не умеют выкручиваться. То есть важный навык отмазываться у них не разрабатывают, но возможно, это такой статистический выброс. Исследований про ChatGPT много, это британские ученые штампуют всю эту историю. А мы летели с DataFest с Ваней Комаровым, тебе знакомым, в самолете, и обсуждали. Стартап есть, российский стартап, он про него рассказывал. Я знаю про американский стартап, который позволяет вести маркетинговые исследования с помощью виртуальных персон. То есть, ты ему говоришь, да, типа, давай ты будешь пожилым японцем из Киото, я хочу продать тебе холодильник, давай побеседуем. И мой поинт был в том, что, допустим, Я говорю, Ваня, вот я тебя смоделирую, да, и буду я тебе продавать. Вот и ты же будешь со мной соглашаться, а мне как раз нужно выяснить твое несогласие, то есть что у тебя там в конторе против того, чтобы я тебе продал это решение. То есть мне согласие не интересует, меня как раз интересует несогласие, а модель, она изначально пытается со мной согласиться, типа да, вы очень хорошо заметили, и так далее. То есть с этим отдельно надо бороться как-то.

Валентин Малых 1:05:48
Ну, тут как раз на этой неделе вышло исследование. Оно не совсем релевантно к нашему текущему разговору, но оно имеет свою конкретную пользу. Исследование там говорится следующее, что модели галлюцинируют. Из-за того, что мы всё время, когда их учим, спрашиваем их про то, чего они не знают. Да, они всегда должны нам сказать что-то, чего они не знали. И в этом кроется фундаментальная проблема. Наличие галлюцинации, то есть модели всегда вынуждены галлюцинировать, потому что у них знаний изначально нет, а мы от них их требуем. То есть в этом наш принцип обучения. Это на самом деле очень интересная сама по себе концепция. И здесь получается то же самое, да, что. Как бы, модель у тебя изначально обучена соглашаться, и обучить её не соглашаться — это уже какое-то отдельное искусство, которое мы как бы сверху намазываем, да, то есть это. Очень важная, глубинная история, что чтобы модель именно придерживалась некоторой модели поведения, которая подразумевает несогласие, да, нам надо, чтобы она умела не соглашаться вообще в принципе, а не факт, что мы её этому учим.

Дмитрий Колодезев 1:07:11
Ну, да, но тем не менее, за Hinton радостный.

Валентин Малых 1:07:19
Не, за Hinton можно только порадоваться. Я думаю, что на этой позитивной ноте можно потихонечку завершать. Большое спасибо, что были с нами, слушали нас, смотрели. Подписывайтесь на всех площадках, где вы это делали. И, конечно же, приходите на наши курсы, и кто будет в Новосибирске, будем рады со всеми повидаться 18 октября. Спасибо. Пока-пока.