Капитанский мостик 2-44

Сорок четвёртый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев. В гостях — Григорий Чернов (PhD по экономике).

Площадки

• Youtube
• RuTube
• VK Video
• Дзен
• Звук
• Apple Podcasts
• Аудио
• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Содержание

• 00:00:00 введение
• 00:01:06 Kimi за рубли
• 00:12:34 роботы и профсоюзы
• 00:21:22 найм из-за ИИ
• 00:38:04 нейрохирургия Qwen
• 00:46:33 кибербезопасность ИИ
• 00:56:26 нейрохирургия мыши
• 01:06:10 ИИ-пузырь лопнул
• 01:16:37 Трамп и LLM

Валентин Малых 0:02
Всем добрый день. С вами, как всегда, Валентин Малых и Дмитрий Колодезев. Сегодня в гостях Григорий Чернов, специалист по экономике, в отличие от нас с Димой, и он нам расскажет всякое. У нас сегодня так получилось много новостей про экономику, и, в принципе, всегда много, но так как мы ничего не понимаем, обычно про них не разговариваем, а тут у нас человек, который понимает, и мы можем про них поговорить наконец-то. Соответственно, из важного, что у нас имеет смысл сказать, что своя мера продолжается.

Дмитрий Колодезев 0:31
Идёт подготовка тайная к дата-ёлке.

Валентин Малых 0:35
Кстати, да.

Дмитрий Колодезев 0:36
Вот, потому что если кто-то планировал побывать на дата-ёлке, планируйте. Вот, мы с Ирой Голощаповой планируем провести митап по Козлу Inference, АБ-тестам, по-моему, девятнадцатого, что ли, декабря, и там надеемся Григория увидеть с докладом. Он будет онлайн. Мы ещё не придумали, на чём мы будем запускать, но, в общем, наверное, всё, на этом новости кончились у меня.

Валентин Малых 1:04
Отлично. Спасибо. Я решил начать с новости, которая лично меня поразила в самое сердце это то, что китайский нейросеть Kimi нейросеть, имеется в виду, сервис Kimi AI, теперь можно оплатить с помощью карты Мир. На самом деле, на мой взгляд, это для российского рынка очень серьёзно, потому что это даёт прямую реальную альтернативу Сберу и Яндексу, которые у нас, собственно, основные игроки на потребительском рынке ИИ, в силу того, что не у всех есть зарубежные карты, и не у всех есть ВПНы и всякое такое, это всё достаточно сложно. Поэтому вот у нас история именно про то, что сейчас можно без каких-то лишних телодвижений просто взять и получить в общем-то, фронтирный ИИ. Может быть, он там не супертоповый, но топовый.

Дмитрий Колодезев 1:58
Я Kimi сразу же купил, как только увидел, и она, в общем-то, хорошая. Она, в общем-то, не дешёвая получается достаточно. Денег уходит гораздо больше, чем на тот же самый DeepSeek или что-нибудь ещё. Вот, но без, действительно, ВПНы её можно использовать, но нельзя поставить. Я думаю, что это мелкая недоработка, и это Да, а ещё, на самом деле, её в её приложении есть голосовая функция, но она русский не распознаёт. Я думаю, что а это новость важная, скорее не про Kimi, а про то, что, вообще-то говоря, карты Мир в Китае платить некоторое время было нельзя, а тут вдруг внезапно можно. Причём не в каком-нибудь ларьке, а в достаточно большое предприятие стоит за Kimi. Они не боятся брать наши деньги.

Валентин Малых 2:57
Угу, угу. Кстати, ты не помнишь, а Kimi оно в Китае или оно где зарегистрировано?

Дмитрий Колодезев 3:02
Kimi не помню, где зарегистрировано, но у них, как у всех китайских историй, у них а два центра сервинга, причём, на самом деле, сейчас три.

Валентин Малых 3:14
Хорошо.

Дмитрий Колодезев 3:15
Вот, то есть у них есть Mainland, и это, соответственно, один адрес Kimi. Есть Сингапур - это второй адрес Kimi. Ты просто разные API подключаешь. Сегодня они подключили дата-центр в Европе.

Валентин Малых 3:30
Мм, интересно.

Дмитрий Колодезев 3:32
Вот, и, соответственно, а они хостятся на Верда, я не знаю, что это такое, никогда не слышал о них. Но они говорят, что вот, мы можем хранить европейские данные в Европе, идите к нам.

Валентин Малых 3:46
Угу. Слушай, насколько я помню, у GLM тоже был европейский дата-центр.

Дмитрий Колодезев 3:50
Да, и получается, что это борьба за потребителей. Если ради этого надо брать карточку Мир, давайте мы возьмём. Если ради этого надо в Европе запартнёриться с местным провайдером дата-центров, давайте мы это сделаем. Вот такая.

Григорий Чернов 4:09
Мне кажется, что в целом сегодня крупный Enterprise, который так или иначе специализируется на сервисах, связанных с агентами, они некоторое время назад серьёзно начали думать про монетизацию, особенно с учётом вот новостей про это характерно, мне кажется. И мне кажется, что часть компаний наподобие Anthropic, они выбрали как раз для себя очень понятный способ некоторой транспарентности и надёжности данных и гарантированности относительно части рынков и специализированно таргетировали Европу какое-то время и сейчас таргетируют. И особенно страны специфическим регулированием, типа Германии, у которых есть часто внутренние контракторы, обычно в разных других местах плохо работающие, но тем не менее, и, может быть, не такие как бы технологически хорошо подкованные, но тем не менее, просто за счёт того, что они или предоставляют какую-то федерализацию, или очень специфические стандарты выдерживают, они часто на рынке держатся. Например, есть среди приложений переводчиков приложение немецкое, по-моему, Гамбургское, которое называется DeepL, и одна из, в общем-то, причин, по которой она хорошо на рынке всё ещё себя чувствует, несмотря на то, что они только переводом занимаются, и понятно, что какое-то время назад в общем-то, точность, которая у них была, за счёт передовых нейронок, она немножко по ушла вниз, да. Но вот за счёт того, что вы можете как бы со своими вендорами договориться и предоставить свои а гарантии, и ваши вендоры будут, например, частью государственного предприятия или просто какой-то крупный например, индустриальный бизнес, они, в общем-то, на это всё ещё смотрят с большим подозрением. И я думаю, что вот с точки зрения именно предложения есть как бы несколько параметров, по которым компании такие оптимизируют. Один из которых, в том числе, а то, что когда ты такую часть, когда какие-то серьёзные процессы стараешься устраивать вместе с агентом инфраструктуры или чем-то ещё, понятное дело, что твои внутренние процессы на это немножко начинают завязываться. И ты как бы не очень хочешь, на самом деле, много инвестировать в какую-то конкретную модель или в какой-то конкретный тип использования, потому что и точность, и токены - это штука сегодня регулируемая, поэтому вот это продуктовое предложение, которое разные компании стараются таргетировать и какие-то ниши, оно может быть разным специфичным. Я думаю, что часть вот как бы таких моделей, которые тяжело, да, внешне валидировать, как у них устроена фронтирная разработка, и они такие условно, догоняющие. Они ждут, пока кто-то крупный релизнётся, а потом смотрят на то, чтобы постараться по бенчмаркам или параметрам или воспроизвести, или как бы по оптимизировать для какого-то конкретного специфического типа вычислений или коннекта и так далее. И вот конкретно с как бы китайскими возможными вендорами, мне кажется, что они как раз, как бы и свой государственный рынок таргетируют, и, возможно, часть российского рынка будут в связи с этим стараться таргетировать. Может быть, это всё шаги в эту сторону. Вот. Насколько мне известно, в этом контексте у нас как бы вот что-то похожего на то, что сейчас происходит в некотором смысле с кодом, на российском рынке я, правда, мало слежу очень, но мало наблюдается. Нет какого-то такого одного вендора, который бы уже некоторое количество времени оптимизировал свои подписки, расход и там пользовательский трафик хорошо под большой поток клиентов. Мне кажется, это всё пока находится в такой стадии технологической калибрации и немножко напоминает годы, когда электроника появлялась с вот этим бесконечным количеством разных портов, стандартов там записей и так далее. Рынок в этом смысле сейчас скорее стабилизируется вокруг некоторых определённых ниш, поэтому точность и скорость - это вот один из параметров, на которые люди смотрят, а доставка, надёжность предсказуемость - это, видимо, один из других параметров, по которым будет идти конкуренция. И мне кажется, что чем более как бы чётко и понятно в этом контексте себя будет позиционировать тот или иной вендор, тем как бы больше у него шансов на то, что именно с ним мы там в будущем полугодии, и годе, и будем в новостях сталкиваться больше.

Дмитрий Колодезев 4:10
Никогда не слышал о них. Мне кажется, тут регуляция должна играть большую роль, потому что вот этот у нас, допустим трансграничная передача каких-то данных в Европе, GDPR, и многим предприятиям, например, у нас сейчас уже, ну вот, то есть мы пытаемся ориентироваться на заводы, мы промсов, да, что-нибудь интересное поставлять, какой-нибудь ИИ туда. Вот, а заводу, может быть, и нельзя сейчас ничего в облако выкладывать в облачную ЛМ, потому что фиг его знает, в лучшем случае секрет украдут, а в худшем прилетит что-нибудь не то. Вот, поэтому как бы такие истории. В Европе локальный инференс растёт, цветёт?

Григорий Чернов 9:17
Сложно, наверное, сказать. Опять же, не то, чтобы я прямо следил за этим рынком. Я я думаю, что всё-таки, если речь идёт про какой-то экономический именно взгляд, то есть условно, отраслевые экономисты, у которых в их бэкграунде, анамнезе основная специализация сфокусирована вокруг того, что они как бы какое-то количество источников институтов отслеживают вместе с объёмами, отчётами и всяким таким. У меня здесь скорее обывательская перспектива. Но я бы сказал, что, наверное, в Европе не столько Local хостинг сейчас важна и популярная тема, сколько распределённые вычисления, потому что, опять же, если я правильно понимаю, то у них очень много именно вендоров, поставщиков информации, они не ну, не лежат в одном месте, да, то есть там не знаю, а медицинские данные - это данные, которые сгруппированы внутри конкретных там институтов, университетов, клиник. И если вы хотите что-нибудь на них обучить или просто даже посчитать, вам нужна какая-то как бы какой-то способ в эту сторону немножко всё идёт, то есть их их в некотором плане волнует именно как-то распределять. Локальная инфраструктура, мне кажется, сейчас пока нигде не растёт, потому что нигде не понимает, где становится прогресс, и с каждым каким новым, с каждой такой новой итерацией, как бы у тебя есть опять же, это вот как бы такой вайб, наверное, может быть, здесь скорее лондонский. Но и крупные и средние игроки, и стартапы, они обычно примерно так рассуждают, что всё-таки разворачивание и стандартизация инфраструктуры, если ты привязываешься к какой-то локальной модели, это некоторое количество времени на внедрение. И пока что прогресс моделей так работает, что время, которое пройдёт от момента как бы выбора вами инфраструктуры и внедрения до какой-то окупаемости, и время, за которое новые модели делают новый прогресс, всех не убеждает, что это вот то место, в которое тебе нужно, значит, как говорят немцы, Cut the Wost. Типа, принять решение, да, какое-то.

Дмитрий Колодезев 11:23
Распечатать.

Григорий Чернов 11:24
Да, да. Вот, мне кажется, что просто в этом смысле в локальном хостинге многие видят в нём большой потенциал, но пока никто не готов сказать, что вот это самое хорошее время, чтобы его начинать раскручивать. Опять же, я знаю, что есть ряд компаний, в том числе и разработчиков, которые так или иначе на бэкграундом про это думают, там какой-нибудь производитель Pycharm вылетел из головы. Jet Brains, конечно. Вот. Но кажется, что пока всё-таки гонка не там происходит, и я думаю, что вот компании, которые будут на этом специализироваться, возможно, будут ещё и думать про какой-то оптимизированный софт тоже под ключ, чтобы ты как бы не только это хостил на какой-то своей инфре, потому что это сложно обычно согласовывать, ну и там какой-то мини мини вычислительный блок тебе сразу распаковывали, который с понятными характеристиками, которые тебе это всё моментом подключается. Вроде в эту сторону идёт какое-то количество стартапов, но не то, чтобы там кто-то заметно сейчас начал отъедать рынок у классических провайдеров.

Дмитрий Колодезев 12:30
Мне кажется, что локальный инференс продаёт не экономика, а регуляция.

Валентин Малых 12:36
Следующая новость, есть такая компания AGI Bot или AGI Bot, я не знаю, как правильно она называется. Они отправляли свои роботов на смену на завод, и оказалось, что два из шести роботов провалили смену, один сбежал, а другой затормозил. Тут почему-то в новости не указано, что четыре робота таки всё-таки смену отстояли. Что, на мой взгляд, достаточно важная история. И вот здесь вот как раз интересно, что безусловно, будут какие-то проблемы с тем, чтобы использовать роботов для замены рабочих на каких-то определённых должностях, да, на каких-то определённых позициях, но если они смогут заменять на самых рутинных операциях, да, на тех операциях, которые сложнее всего людям даются, то, мне кажется, что это как раз вполне себе хорошее подспорье, да, может быть, там можно освободившихся людей направить на что-то более полезное.

Григорий Чернов 13:40
Ой, я бы здесь ворвался. Мне кажется, что как бы автоматизация основной прирост труда как раз пройдёт немножко с обратной стороны. Мне кажется, что рутинные операции автоматизируют обычно вещи, которые ты можешь через конвейер как-то запускать, через классические, скорее, инструменты, а не высоко роботизацию. Вот часть прогресса, который сейчас как будто наблюдается, это то, что обычно называют Physical AI, и наоборот, вот какие-то высокотехнологичные или высококвалифицированные процедуры, например, хирургия, а например, роботизированные химические лаборанты, когда вам нужно точно или там био, ну и Life Science так такое, да, когда вам, например, нужно много раз попробовать в отсутствии завести некоторое количество экспериментов или посевов один за одним. И вот здесь они как раз уже начинают занимать нишу, в которой точность и аккуратность выполнения некоторых повторяемых процессов достаточно высокая, и отбивается как бы дороговизна настройки, обслуживания и сопровождения. Как бы из-за того, что ты можешь взять и имитировать работу нескольких PhD студентов в химической лаборатории в масштабе, то есть, как бы быстро получить 1.000 человека часов с одинаковым предсказуемым воспроизводимым результатом. Вот здесь как будто уже есть некоторое количество таких, опять же, стартап активности и крупных технологических гигантов, которые с этим экспериментируют. И я думаю, что основная часть вот как бы Physical AI прогресс, он будет с этой стороны проходить. Хотя, наверное, опять же, очень очень интересно посмотреть, что будет происходить с рынками типа Autonomous Vehicle, и вот эта часть, потому что в некотором смысле это тоже роботы, и тоже как бы автоматизируют рутинный процесс, но там с регулированием гораздо сложнее. И все сейчас вот идут, везде пересится. Вопрос как бы как раз вот со стороны ценообразования, регулирования и всего остального, что там будет происходить. Наверное, рисков каких-то тоже, потому что кажется, что нетривиальная вещь, про которую ты обычно так мало думаешь, что у тебя на самом деле риск становится частично больше, и не из-за того, что мы вероятность ошибки алгоритмов в каждый конкретный момент времени смотрим, а скорее рисков связанных с тем, что глобальная настройка технологий и там оператор, который за неё ответственен, случится какой-то сбой. Просто в смысле рисков катастрофических, да. Там софтина откажет в том или ином виде, цепочка поставки у них прервётся какая-то, появится какая-то уязвимость, которая подвесит, например, обслуживание на некоторый период времени и так далее, да. Там, например, крупный рынок, скажем, такси в крупном городе, если ты на некоторое время его остановишь, это будет гораздо легче, гораздо сложнее заменить, да, там нарастить supply какой-то, чем в любые другие места. И вот эти вот консолидация, на самом деле, и концентрация ресурсов внутри одной корпорации, это нетривиальный эффект в таких вещах, мы про него обычно не думаем. Что ценность человеческого оператора ещё и в том, что он как бы относительно универсально обучаемый, переставляемый, и это всё распределено во времени, это всё изолировано и завязано на конкретно одном человеке.

Валентин Малых 17:05
Мы можем предположить, что у нас эти человекоподобные роботы и сядут и будут нашими таксистами, я правильно понимаю? Так как больше шансов, что у нас всё поедет.

Григорий Чернов 17:14
К этому-то как раз всё идёт. Там же Waymo партнёрся с Убером, а другие вендоры в я если я правильно понимаю, в Штатах уже есть пару мест, где разрешён рынок для роботизированных такси без водителей, по-моему, в Техасе и где-то ещё. Там-то как раз это такой интересный кусок Physical AI направления, за которым с некоторым прищуром сейчас все следят, потому что вот он как раз в пограничном состоянии между как бы каким-то стартовым тестированием и массовым внедрением и регулированием. И там заканчиваются эксперименты, дальше регуляторам нужно будет думать, что они будут с этим делать, и нужно ли для этого какое-то специфическое регулирование, и, возможно, трекинг. Мне кажется, ещё история в том, что такие вещи вообще-то требуются со стороны государств разворачивание каких-то Think Tankов, которые бы смотрели, что там происходит внутри этого вендора, потому что там слоёв сложности довольно много. И мне кажется, такое ещё регулировать никто хорошо не умеет, на самом деле. И непонятно, будет ли как бы проактивная мера там учиться или он будет ждать как бы каких-то технологических шоков и смотреть как бы уже на фоне этих сбоев, что что, что, собственно, делать.

Валентин Малых 18:28
В Китае же уже был массовый сбой роботакси в Ухане, по-моему. Когда вот эти вот роботакси остановились, я не помню, то ли на полчаса, то ли что-то типа того, во всём городе. И это уже первый вот такой вот сбой, как который показывает, что да, если мы зависим от одного оператора, одного поставщика технологий, то у нас есть довольно серьёзный риск, то есть одна точка отказа, по большому счёту.

Григорий Чернов 18:54
Мне по этой же причине кажется, что рынок такси в этом смысле относительно более безопасный, чем, например, логистический рынок, про который тоже много разговаривают и думают, что хотят оптимизировать логистику, но там сбой как бы будет в некотором смысле похож на тот, который был, а когда пролив заблокировали. И мы как бы воочию увидели, что такое, когда у тебя цепочки поставок на какой-то момент времени прерываются, насколько это всё на самом деле важно с точки зрения скорости обращения денег и насколько это будет влиять на производство и процессы в разных точках мира совершенно.

Валентин Малых 19:32
Угу, угу. Это вопрос глобальной логистики, то есть, если мы говорим о том, если у нас там, не знаю, грузовики остановятся это, наверное, не настолько страшно.

Григорий Чернов 19:42
Я здесь скорее про тот сайд-эффект, который вроде как не очень очевидный, что когда ты меняешь одно один эффективный юнит на другой эффективный юнит, у тебя он каждый раз, каждый конкретный рабочий робот может быть эффективнее, чем человек, но когда у тебя все только роботы, и они все завязаны на одну какую-то вещь одновременно, на обновление софта, ещё на что-нибудь, у тебя возникает вот этот вот общий коллективный экстерналия, которую ты как бы не понимаешь, на самом деле, сейчас, как с ней взаимодействовать. Игрокам, государствам, финансам, как оценивать эти риски, вот вообще непонятно пока. Это вот новый некоторый эффект. Его раньше не было.

Валентин Малых 20:19
Угу, спасибо.

Григорий Чернов 20:20
И спасибо.

Дмитрий Колодезев 20:21
Слушай, ну вот ты говорил, что такси гораздо более зарегулированное, а я думаю, что тут тоже придёт регуляция. Когда мы используем промышленное оборудование в помещ в тесных помещениях, набитых людьми и материальными ценностями, без всяких дополнительных этих, то есть там же есть вот видео, где робот бьёт по лицу ребёнка там, например, или что-то ещё в Китае, где их много, на каком-нибудь мероприятии. Случайно повернулся и, в общем серьёзно ребёнка сбил. Вот представь себе, что робот стоит в магазине, да, вот он продавец. И вот ты весишь, например, там, скажем, не знаю, 70 кг, например, робот, например, 250, да. Вот, он неловко повернулся и вынес там человека какого-нибудь. Вот, первый же случай, и, кстати, вот Григорий говорил, что как будет идти регулирование, я думаю, регулирование будет идти по инцидентам. Пока петух не клюнет, мужик не перекрестится.

Григорий Чернов 21:19
Угу.

Валентин Малых 21:20
Всё так.

Дмитрий Колодезев 21:21
Вот, примерно так.

Валентин Малых 21:25
Следующая новость тоже про экономику. Associated Press пишет, что бизнес начал возвращать уволенных из-за ИИ сотрудников. Тут история не про то, что всех возвращают, а возвращают, а имеется в виду тех, которых уволили лишним. Было ожидание, что там роботы и ИИ-агенты заменят вообще всех, а оказалось, что всех они заменить не могут, надо всё-таки контролировать, что роботы делают, как как с этим вообще справляться и всякое такое. Это, на мой взгляд, происходит некоторый откат после сильного хайпа. Вот. Я вообще считаю, что мы придём к более стабильному состоянию, где у нас будет понимание того, где роботы хороши, где их можно прекрасно использовать, а вот в каких-то местах мы их совсем использовать не будем, просто потому что оно нам по каким-то причинам не нужно. Например, я вот считаю, что люди ходят к парикмахеру не для того, чтобы хорошо постричься. Я вот, например, могу дома постричься с помощью машинки, и совершенно прекрасно иметь примерно ту же самую причёску, что парикмахер мне сделает всего наличия отсутствия у меня волос. Соответственно, люди ходят к парикмахеру для того, чтобы пообщаться, да? В этом идея, что нам нужно человеческое общение. Кажется, что пока, пока мы в этом месяце, как известно, да, роботы этого ещё не дают. В каких-то областях у нас роботы не заменят и ИИ-агенты тоже. Но в каких-то они будут действительно сделают услуги гораздо более доступными.

Дмитрий Колодезев 23:00
Ты знаешь мне кажется, что среди молодёжи многие ходили бы к роботам, чтобы не общаться. Я прямо знаю кучу людей.

Григорий Чернов 23:09
Купить себе машинку, постричься, и это гораздо проще.

Дмитрий Колодезев 23:12
Что ты?

Григорий Чернов 23:13
Мне, кстати, кажется, что продуктово это можно сделать. Можно сделать зумерские парикмахерские, в котором ты, как в Макдаке в старом, можешь просто на экране выбрать некоторое количество опций, ноль ноль взаимодействия словами говорить. Мне кажется, можно было бы протестировать, насколько эта штука бы пользовалась спросом. Может, может быть, правда был бы какой-то отклик на неё. Но мне здесь кажется, знаете, какой эффект любопытный? Мне кажется, на эту проблему можно посмотреть через оптику немного более как бы усиленной, разогнанной проблемы, связанной с тем, что сейчас не очень-то понятно, что делать джунам в разработке, которые только выходят на рынок. У них это как бы ещё более серьёзная для них ситуация, просто потому что увольнение несёт некоторые косты для компании, не найм новых сотрудников вообще не несёт никаких костов, и они как бы в некотором смысле наиболее чувствительные и наиболее пострадавшие от этого всего сейчас когорта людей, которые уже успели получить какую-то специализацию и там образование, но как бы рынок ещё под это не перестроился. И я недавно разговаривал с несколькими бэкенд-разработчиками, нанимающими менеджерами про эту ситуацию, отметил для себя любопытный момент, связанный с тем, что кажется, что, если мы смотрим на джунов, проблема случилась не в том, что их как бы легко автоматизировать и заменить, а в том, что на рынке было достаточно большое количество сеньоров, которые в какой-то момент амплифицировали, усилили свою деятельность и начали закрывать за те же самые рабочие часы X процентов перформанса, который у них был раньше. Давайте скажем, X полтора. Это проделало интересную любопытную проблему, связанную с тем, что у вас команды обычно, которые укомплектованы сеньорным разработчиком, у них есть какой-то корпоративный продуктовый стак контрагентов людей к ним. Какое-то количество тестировщиков, какое-то количество продакт-менеджеров, какое-то количество там людей из бизнеса и так далее. И у них есть скорость работы, которая в том числе как-то нормирована просто количеством ставок этих людей вокруг. И так получилось, что из-за того, что одни усилили как бы свою продуктивность, они усилили её не не не пропорционально тем, кто в других направлениях как бы больше, менее автоматизируется. И они начали в этом контексте каннибализировать друг друга. У вас не не то чтобы люди заменяются машинами или агентами, да? У вас получается, что одни люди, которые теперь умеют X полтора делать за то же время, начинают каннибализировать других людей в этом контексте. И вот вот этот сам по себе эффект он говорит о том, что у вас рынок как бы получается переполнен мгновенно, да? Теми, кто на нём находится. И, наверное, от этого как-то будет отстраиваться. И вопрос, конечно, интересный, как бы, насколько вот это X полтора, оно внутри рынка останется надолго, потому что с одной стороны, как бы люди могут начать обратно компании раскручивать этот процесс и просто, да, пытаться перевести как бы свой продакшн цикл на прежние рельсы с прежним нормой перформанса и всем остальным, думая и таргетируя, видимо, то, что этот перформанс хотя бы некоторого качества приемлемого или контролируемого или прозрачного достигает. С другой стороны, как бы, можно пробовать инвестировать в всё-таки в инструменты проверки контроля качества и, может быть, более гибкого планирования и более гибкого распределения полномочий. Вот интересно, кто в эту сторону пойдёт, потому что кажется, что найм будет происходить тем больше, чем менее гибко компании внутри устроены, чем более как бы вертикальные структуры внутри сделаны, и чем больше привязаны к конкретным командам. Вот. Я здесь ещё, наверное, хочу отметить, что есть ещё интересное нетривиальное как бы следствие, не впрямую касающееся рынка труда, но касающееся некоторых довольно старых институций в обществе. Например, института peer review в научной среде и среди конференций. Там же сейчас тоже в некотором смысле из-за засилия AI происходит ну, такая тихая революция, потому что понятно, что количество статей которые можно продуцировать, взлетело в космос. Там я я не знаю, вы видели или нет, есть такие завершившиеся графики о том, как с приходом агентов количество статей на ArXiv растёт, и там в какой-то момент есть просто такая экспоненциальная кривая, и она чуть-чуть останавливается на последних двух точках, потому что ArXiv просто сказал: "Всё, не больше двух статей в месяц, по-моему, что-то такое, вы можете постить". Но как бы инфляция института peer review тоже произошла, и будет очень интересно посмотреть, как бы, появится ли и рецензенты, и какая-то экосистема вокруг этого, или это всё, как бы, вот деградировало, и мы теперь не можем за счёт этого, как бы, или это будет откатываться вот в таком в челове в человеческом формате. Мы сначала обратно как бы откалибруемся относительно того, какого размера коммуникации и количество людей нам внутри команд нужны, и дальше будем думать, как вот правильно распределить этот прогресс внутри этих команд, потому что структуры на самом деле не гибкие.

Дмитрий Колодезев 23:28
Я вот думаю, на самом деле, что если а для того, чтобы спасти джунов, надо сильно упростить увольнение. То есть

Григорий Чернов 23:36
В смысле, всех остальных?

Дмитрий Колодезев 23:38
Вообще, в принципе. Для того, чтобы джунов начали брать на работу, должна быть возможность их легко и незамутнённо уволить. Чем сложнее уволить принятого джуна, тем меньше их будут брать. К сожалению, сейчас так. К сожалению, сейчас собеседование починить невозможно в IT, потому что там есть ЛМки и так далее и тому подобное с обоих сторон. Огромное количество супер-пупер сеньоров с нарисованным опытом, не видевших в глаза ничего, кроме телефона, потому что они, может, компьютер всю жизнь не включали. Вот, прямо с телефона эти резюме через GPT писали. И огромное количество HRов, которые не могут физически всё это дело обработать и тоже опускаются на ЛМ-фильтры, и, в общем, вся эта гонка вооружений на Data Science был рассказ про это. Не на Новосибирском, на Московском весной. Там был специальный разбор признаков, что человек читерит читерит с помощью ЛМ, типа, у него разное освещение на лице, у него надеты неотражающие очки, у него что-то ещё там. Вот такие вот вещи, там, типа, целый доклад про это. Мой следующий был, я говорю: "Ребята до чего мы дожили, да?" То есть мы на конференции рассказываем про то, как поймать читерство с помощью ЛМ. Какой мы занимаемся, да? Единственный способ чтобы джунов по-прежнему нанимали, это чтобы была их возможность быстро уволить. Тогда их будут нанимать.

Григорий Чернов 24:08
Там, наверное, есть сайд-эффект, что если вам джун достаточно серьёзно может настроить так себе так, что его всё ещё нельзя поймать с помощью фильтра на так ЛМке, то, может быть, он как бы и достаточными скилами, чтобы работать обладает тоже.

Дмитрий Колодезев 30:24
Так вот в том-то всё и дело, что сейчас на собеседовании отличить одного от другого невозможно. Только на производстве. На производстве ты берёшь, ты сразу принимаешь риски. Во Франции, как я слышал, вообще человека фиг уволишь, да? У нас можно уволить, но с большим трудом да? Вот, а в Штатах там тебя за 15 минут с коробкой в руках выставит. Вот, если ты не член профсоюза. И вот, собственно, до тех пор, пока вот такое не будет к сожалению, джунам будет очень тяжело. Странно он так.

Григорий Чернов 30:58
Это, знаешь, в каком-то смысле, как с ипотекой, да? Ипотека в данном случае кажется, с одной стороны, делает дома доступнее, но с другой стороны она поднимает соответственно, стоимость этого жилья, и поэтому оно становится недоступнее, да? Тут как бы есть такой эффект. Здесь обратное, да, что у нас с одной стороны, вроде как джуны, получается, не нужны, но тем не менее, все понимают, что джуны-то нужны, просто не хочется потом заниматься тем, чтобы как бы, если человек оказался нерелевантным, как, как с ним расстаться, да? Это вот большая проблема. Понимание, к сожалению, не означает оптимизацию целевой функции. Пока у людей в KPI нету какого-то среднесрочного или долгосрочного оптимизации по этому параметру, оно как бы будут будут плакать, но не нанимать, мне кажется. И я думаю, что с рынком труда, в принципе, такая история, что понятно, что краткосрочно, если бы мы открыли шлюзы и сказали, можем увольнять или нанимать так, как нам надо людей, понятно, что нашлось бы большое количество людей вот в овер-саплай на таком рынке, которые бы готовы были за гораздо меньшие деньги или за гораздо менее надёжные гарантии, этот рынок начать заполнять. Другой разговор, что через 1, 2, 3, 4, 5 циклов, к какой бы мы ситуации это приведёт, да? И в этом-то контексте, наверное, всегда неплохая ситуация - это когда у вас не очень сильно фиксированные бюрократические контракты, но сильные профсоюзы. Идея в том, что хорошо для рынка в целом всё-таки ситуация, когда у вас есть какой-то контрагент, который мог бы интерес людей отставить, потому что если корпорации будут оптимизировать только по тому, как им кого выгодно нанимать или увольнять, то понятно, что люди от этого не выиграют в итоге, да? Не специалисты, не те, которые учатся, не джуны, не остальные. И всё-таки какую-то ответственность надо людям принимать. Просто здесь вот эти риски того, что ты наймёшь никого не того, никого нужно, это в некотором смысле подталкивание корпораций к тому, чтобы они старались всё-таки как-то оптимизировать некоторые гарантии для людей и относительно найма, потому что мы в итоге-то, как бы, две вещи на выходе-то хотим получать, да? Мы хотим, чтобы бизнес работал и производил какие-то товары, услуги, продукты, а с одной стороны, а с другой стороны, мы хотим, чтобы экономика была относительно стабильная, а чтобы была какая-то занятость, чтобы эта занятость была прогнозируемая, и человек мог не имел каких-то высоких барьеров входа, да, чтобы он как бы, если там родился в какой-нибудь телегородского типа или ещё где-то, он бы мог в зарплате в какой-то момент времени дойти до там среднемосковского уровня, например, да? И понятно, что чем как бы чем менее зарегулирован рынок, тем, на самом деле, у него меньше таких возможностей, потому что естественные барьеры, которые оптимизируют по конкретным ситуациям, в конкретных городах, они для людей ситуацию зацементируют. Люди будут попадать в какую-то ловушку бедности или в какую-то ловушку планирования, в которой один человек уже для себя не может это перераспределить никак. Поэтому вообще без гарантий тоже, наверное, не здорово.

Дмитрий Колодезев 34:02
Ты знаешь, вот то, что я вижу, это как раз большие конторы, у которых есть ресурсы и воля на какие-то долгосрочные действия по найму, они просто делают корпоративные курсы, как вот, МТС поступает, да, школа аналитиков данных. И некоторые другие конторы тоже так поступают. И поэтому все, у кого есть ресурсы и воля на решение проблем, они её решают. Обычно так. У остальных либо нет, либо воли, им ничего не поможет, либо ресурсов. И им поможет только упрощённая регуляция.

Григорий Чернов 34:35
Тут в этом моменте ещё интересно это момент в том, что, на самом деле, я не знаю, как у вас впечатление, но мне и там N лет назад казалось, и сейчас особенно кажется, что ещё деградировал в некотором контексте процесс найма совсем. Это какая-то очень формальная вещь, очень короткая, очень странно организованная, в которой есть определённые правила игры, и я довольно мало контор знаю, в котором бы это было хорошо оптимизировано, потому что там, где это нанимает условный Google или Facebook или ещё что-то, у них, конечно, эшелонированные, многоступенчатые, и все туда хотят. Но там часто очень люди не задерживаются. Там текучка очень высокая, в том числе из-за того, что это и жёсткий отбор, и жёсткий перформанс, и люди туда заходят на год, на два, получают свои дивиденды, получают свою репутационную историю и счастливо оттуда уходят, потому что работать в тех темпах, в которых там люди работают, в общем-то, никому не нравится. Но тут хотя бы людям зарплатой и репутацией это компенсируется как-то. В огромном числе случаев у нас есть вот эти формальные интервью, которые ты можешь хоть как-то стандартизировать, но с точки зрения того, хороший тебе, на самом деле, сотрудник придёт или нет, как с ним можно договариваться, будет ли у него какой-то трекинг и у тебя, и у него, как у работодателя, после того, как вы друг с другом расстанетесь в дальнейшем, то есть, поймут ли свежие кандидаты как бы, какие условия расторжения прошлые здесь были, и наоборот, поймёт ли следующий работодатель человека, который отсюда уходит насколько он классно работает. Мне кажется, вот это всё теряется при текущем стандартном процессе, и ни института репутации нет, ни, на самом деле, хороших инструментов контроля, а то, что ты на интервью спрашивают люди часто это или очень формальные вещи, и как бы тестируют объём рабочей памяти у человека, насколько и время свободное. Если у него есть месяц, значит, посидеть, порешать на литкоде, то классно. Если нет, то самолюбие собеседующего.

Дмитрий Колодезев 36:27
Тоже, тоже, тоже.

Григорий Чернов 36:29
История в том, видишь, что сейчас быстро меняются процессы в организациях. В разработке, например, где я сижу, там вообще всё меняется очень быстро. И ты нанимаешь человека в надежде, что он у тебя будет выполнять какую-то трудовую функцию. Какую он у тебя трудовую функцию будет выполнять через год? Никто не понимает. Поэтому под что мы оптимизируемся? Мы пытаемся оптимизировать general attitude, в том смысле, что он может посчитать, сколько теннисных шаров поместится в боинге, да? Наверное, он из накладными разберётся. Вот вот такой карго-культ, поэтому, мне кажется, что всё сломано и надежды пока нет. Вопрос про теннисные шары хотя бы не такой плохой, потому что тебе, на самом деле, в этом вопросе не интересует точный ответ, тебя интересует линия рассуждения человека больше, более или менее. Если ты ещё делаешь как бы какое-то диверсифицированный набор таких вопросов и там несколько итераций, и ещё понятные правила придумаешь для человека для себя это не это уже как будто не самый плохой формат интервью. Мне гораздо меньше нравится, когда у тебя спрашивают какую-нибудь конкретную штуку, и подразумевается, что вот если ты её хорошо знаешь или её плохо знаешь, то это это какой-то критерий отбора. Мне кажется, что в современных паттернах работы тебе гораздо важнее понимать, где найти и как проверить, чем иметь какую-то энциклопедическую точку знания.

Дмитрий Колодезев 37:51
Наверное, зависит. Если мы системного администратора на случай зомби-апокалипсиса выращиваем, то лучше бы он всё помнил. Если нам нужен оператор техподдержки, то мы положим перед ним талмуд и пусть он там смотрит.

Валентин Малых 38:07
Следующая новость про то, что большая моделька, в частности конкретно GPT 6 Astra, смогла взять Qwen маленький, по-моему, 0,8 они брали, и она смогла его улучшить, поменяв прямо веса напрямую, взять его веса и напрямую их поменяв. И это довольно интересная история, потому что с одной стороны получается, что у нас нейросети дошли до того, что могут оперировать другими нейросетями и залезать им прямо под капот, а с другой стороны получается, что не очень понятно, если это так можно было, да, а что ж раньше так не делали? Вот этот вопрос, который меня немножко мучает, да? Почему, если это так работает, то никто этого раньше не сделал? Ощущение, что здесь есть какая-то недосказанность.

Дмитрий Колодезев 39:03
Слушай мне кажется, что новость вся немножечко преувеличена, то есть, если посмотреть внимательно, то они не то, чтобы совсем веса, не то, чтобы во всех моделях, не то, чтобы так прямо редактировали, и, в общем,

Валентин Малых 39:17
И не с хард-референс, да.

Дмитрий Колодезев 39:18
Да, да, и не выиграла, проиграл. Как бы идея о том, что LM напрямую правит веса, она, конечно, красивая. Но то, как это вышло, больше напоминает некоторый скрипт, который запускается и, скажем вот как скрипты прунинга, они же тоже правят веса, да? Вот, никто по этому поводу

Валентин Малых 39:40
В том смысле, да.

Дмитрий Колодезев 39:41
Потрясённый не зависает. Мне кажется, да, что ничего этому не противоречит, но пока технический уровень не таков, чтобы в контекст все веса сложить и понять.

Валентин Малых 39:55
Слушайте, а мне, как не настоящему сварщику, можете пояснить коротко, а это от направления, которое занимается дистилляцией, принципиально чем отличается?

Дмитрий Колодезев 40:04
Это не совсем дистилляция, то есть, представь себе, что у тебя есть нейронка, да, и тебе не нравится, как она улыбается. Ты ткнул пальцем, подкрутил какой-нибудь конкретно вот резистор у неё в голове, и она улыбаться стала лучше. И для человека и для инструментов, которыми управляет человек, это сложность слишком большая. Есть на самом-то деле такая штука, как модуль стиринг, когда мы говорим: "Ну вот, модели, которые хорошо улыбаются, у них есть такой собственный вектор. Давай мы этот вектор наложим, у нас модель будет улыбаться шире". Но это немножечко шаманизм на самом-то деле тоже. Тут все вещи с нейронными сетями, они идут по следующей схеме. Сначала мы взяли нашу задачу, разбили на маленькие кусочки и научились делать один кусочек, второй кусочек, третий кусочек, а потом говорим: "Да что, у нас же есть начало и конец, пусть в середине нейронка как-нибудь сама разберётся". И вот с редактированием нейросетей там весов куча всяких штук: прунинг там да, это когда мы зануляем какие-то веса, это там дистилляция, там всякого рода низкоранговые добавки и так далее, чтобы ей рулить лора. Вот так, чтобы нейронка пришла, взяла тонкую отвёртку и подкрутила веса, вот, просто вот, знаешь, как пианист, как настраивает фортепиано специалист по настройке фортепиано, просто нейронка подкрутил. Такого ещё не было. Вот у ребят получилось, и это выглядит, как будто, знаешь, нейрохирургия одной нейронки над другой.

Григорий Чернов 41:44
Угу.

Дмитрий Колодезев 41:45
Это очень большое обещание, как если бы человек, он страдал приступами немотивированной грусти или агрессии. Вот, он пришёл к врачу, врач взял, значит, и у него проволочку засунул, поковырял, сказал: "Так, всё, у тебя всё будет хорошо".

Григорий Чернов 41:58
Звучит как Blackbox, непонятно. Если это возможно, непонятно, почему невозможно спросить: "Хорошо, объясни тогда, как структура устроена". Потому что ты же как будто бы можешь понимать, что в какую сторону должно что менять. И следовательно, может ли она объяснить структуру для себя хотя бы, а потом на человека читаемом языке, как будто следующий естественный вопрос.

Дмитрий Колодезев 42:19
Вот, это вот как раз та самая история про декомпозицию. Дело в том, что эффективная деятельность не обязательно подразумевает декомпозицию. Я просто уверен, что ты не в состоянии объяснить, как ты ходишь. Ходишь ты, насколько я помню, довольно-таки уверенно.

Григорий Чернов 42:34
Да не, ну я просто думаю про это. Вот ты ортопед, ты как будто можешь подправить какую-то штуку, не объяснив, что ты делаешь, как будто нет.

Дмитрий Колодезев 42:42
Нет, я не про ортопеда, я про тебя. Ты у тебя конкретно в мозгу есть модель того, как управлять твоими ногами. При этом именно в сознании этой модели у тебя нет. У тебя есть набор навыков, и ты не можешь его, как правило, корректировать. Люди, специально занимающиеся танцами или рукопашным боем, они могут выполнять мелкие корректировки, они их понимают, осознают. Большинство остальное просто ходит.

Григорий Чернов 43:08
Не, ну мы тем не менее на монотонных-то уровнях мы понимаем, что если мы вырубим тот или иной отдел, то ты будешь хуже или лучше ходить, у тебя там будет какая-то раскоординация. У тебя есть какое-то количество датчиков, которые считываются там во внутреннем ухе, ещё некоторых, которых если ты нарушишь, опять эта штука поплывёт и так далее. Сказать, что мы совсем не понимаем, как это устроено, или как отрегулировать, или что ты, например, вот, не знаю если ты скажем принял какой-то алкоголь, то там навыки твоего хождения ухудшатся, потому-то, потому-то. Если при этом будешь держаться за третьего человека, будет ещё всё всё ещё нормально. Короче, это не прямо вообще тёмный лес, как будто, да, мы как будто довольно много всего понимаем.

Дмитрий Колодезев 43:49
Да, я хотел обратить внимание, что есть разница между тем, что человечество понимает, как люди ходят, и конкретный человек понимает. Например, а про ходьбу, опять же, есть сложная история про то, что напряжение брюшной мышцы и ягодичных мышц определяет наличие или отсутствие у тебя плоскостопия вообще-то. И это вещь совершенно нетривиальная, а, скажем, тренеры, ортопеды это знают, да? Вот. Поэтому То есть плоскостопие - это не обязательно плоская стопа, это возможно отвисшее пузо. Не суть. Я к тому, что то, что LLM-ки могут править другие LLM-ки, это опять же история про то, что вот-вот-вот, вот сейчас они начнут друг друга улучшать, и мы им будем не нужны. Пока нужны.

Валентин Малых 44:33
Мне кажется.

Григорий Чернов 44:34
Пока да. Кажется, что всё-таки это немножко про другое. Дима говорил такими образами, я скажу чуть более технически, чем отличается вот эта вот дистилляция. Дело в том, что дистилляция - это про то, что у тебя есть Whitebox, не Blackbox, а Whitebox, да, то есть ты видишь большую модель, а модель учителя, как видишь её внутренности, видишь маленькую модель, модель ученика, как тоже видишь её внутренности, и делаешь так, чтобы внутренности маленькой модели были похожи на внутренности большой модели. И это как бы некий внешне контролируемый процесс. Здесь получается, что у тебя есть такая Blackbox, который что-то делает с учеником сам, да, это уже не ученик, а он ему там что-то отвёртки подкрутил. И вот это действительно выглядит очень, с одной стороны, привлекательно, с другой стороны, непонятно, да, оно реально работает. Вот у меня есть какие-то сомнения, мне кажется, это какой-то очень ограниченный случай пока что, по крайней мере. Или там выяснится, что оно просто какой-нибудь смузинг сделала, да, между параметрами, она от этого стала получше, и как будто это какая-нибудь общая операция, на самом деле, а мы её не понимаем в той структуре, маленькой модели, которую мы видим.

Валентин Малых 45:40
Да, Дима там упомянул стилинг, это как раз может быть, да, что мы какой-то вектор вычислили весов, да, и его просто наложили, и стало вот такой вот. В это вполне можно поверить, и вопрос только в том, что это выполнение с помощью Астры не корректировки весов как таковых, да, а вычисление того, как нужно их скорректировать на основании техник, которые придумали другие люди. Люди или не люди, неважно.

Дмитрий Колодезев 46:05
Да мне кажется, что я согласен уже со всеми предыдущими ораторами, и главное, что не совсем понятно, а Bleach and Stage был, то есть была ли какая-нибудь простая гитика, которая дала такой же результат или лучший?

Валентин Малых 46:20
Честно скажу, я не читал вот это вот прекрасное произведение, надо будет заняться и погрузиться.

Дмитрий Колодезев 46:27
Угу. Да. В общем, будем погружаться.

Валентин Малых 46:29
Да, это, видимо, рано или поздно всех коснётся. Также про то, что коснётся опять же всех, а особенно всех последних новостей, OpenAI решил решили вывести и свой продукт по кибербезопасности в отдельную модель. Как я понимаю, у них есть теперь отдельная история про кибер, видимо это вот их моделька. И это само по себе достаточно понятно, мы с тобой это уже обсуждали на прошлых мостиках, что судя по всему, во-первых просто объективно существует сейчас, пожалуй, одно из самых бурно меняющихся областей является именно область кибербезопасности, да, то есть её с лета прямо трясёт и лихорадит, да, потому что происходит что-то, что было невозможно сделать до этого, то есть стало возможно атаковать каждый сервер в интернете, раньше не было столько хакеров, а сейчас столько хакеров есть. Соответственно второе, что, видимо, нас ждёт, это то, что будет достаточно много агентов, которые непрерывно занимаются кибербезопасностью, и кажется, что вот это конкретно, это единственное сейчас стопроцентное применение того агента, который нужен каждый день каждой фирме, да, то есть вот точно нужно, чтобы был агент, который защищает вас от новых угроз, потому что новые угрозы другие какие-то враждебные нейросети генерируют вот прямо сейчас онлайн.

Дмитрий Колодезев 47:54
История про то, что OpenAI выделили кибербезопасность в отдельную модель, они же тут как раз закончили отложили выпуск Астры свежей, да, из-за кибербезопасности как раз. Kimi, которые мы обсуждали, она выпустила Kimi 3.1, и одна из её характеристик - это урезанная кибербезопасность.

Григорий Чернов 48:17
Угу.

Дмитрий Колодезев 48:18
И получается, что сейчас из фронтирных моделей начнут и уже в процессе массово их охалащивать, чтобы они не могли использоваться для взлома, потому что они достигли такого состояния, что это уже практически оружие. Это просто кибероружие. И их приводят к беззубому виду. Но те, у кого есть возможность пользоваться не беззубыми, те, получается, перед ними все беззащитны. Поэтому ты сейчас можешь в OpenAI пройти сертификацию, доказать, что ты принципиально хороший, и тебе дадут доступ к кибербезопасности. Или взять себе GLM 5.3 флеш и получить примерно ту же самую кибербезопасность за копейки, никому ничего не доказывая. И вот интересно, что будет. Останется ли вот эта вот возможность, потому что сейчас, когда взломы идут чего-нибудь стека раз в неделю наш стек, в нашем стеке-то находится какая-нибудь такая зловещая дыра нас. Я очень рад, что у нас есть GLM прямо.

Валентин Малых 49:21
Да-да, мне кажется, что даже если сейчас новые модели станут сильно слабее в кибербезопасности, имею в виду открытые модели, но есть старые, и, в общем, я думаю, что комьюнити в этом смысле подсуетится, да, то есть кто-нибудь добрый всё-таки это обучит и выложит.

Григорий Чернов 49:36
Мне, кстати, кажется тоже, что это скорее продуктовая история и способ хеджировать риски, в том числе риск регулирования. Мне кажется, всем очень не понравилось, когда, по-моему, Anthropic выкатил модель, Трамп сказал, что это опасная штука, нам нужно дёрнуть рубильник, ограничить доступ не всем, у них на какое-то время подвис как бы их фронтирный продакшн, просто потому что сейчас риски кибербезопасности высоки, а предыдущий весь конвейер выкатки экономика была построена на том, что ты непрерывно раз в какое-то время обновления катишь. Мне кажется, что они сейчас просто попробовали это разграничить продуктово и больше для регулятора, именно потому что рано или поздно эта вещь, если я правильно понимаю, экономику всех того, как модели копируются, улучшаются, что как только ты выкатываешь какую-то фронтирную вещь на бенчмарках, всё равно прирастёт в Open Source, в Foundation модели, и сильно, в общем, ты таким разграничением, может быть, какую-то скорость будешь выигрывать, но, но не более.

Дмитрий Колодезев 50:32
В защите, знаешь, скорость - это всё, мне кажется. Если у тебя есть ключ от всех дверей на 2 недели раньше, чем у всех остальных появился замок от твоего ключа, то у тебя есть серьёзное преимущество.

Григорий Чернов 50:46
Мне кажется, что вот этот естественный эксперимент с ПХП, который случился, будет показательным. Можно будет посмотреть, как бы, сколько сколько волн открытой информации утечёт, и будут ли люди переходить с ПХП, какой-то случится ли изменения из-за этого или нет. Я не говорю, что это нужно делать, просто, мне кажется, это такая первая вещь, которая всем в голову приходит, типа.

Валентин Малых 51:09
Я думаю, тут всё достаточно упирается в то, что, а большая часть данных, давайте по-честному, никому не нужна, да, то есть там максимум для обучения модели, но и то это не сильно интересно. Большая часть данных вот конкретно твоей булочной нужна только тебе и максимум там ещё твоей налоговой. Больше она никому не интересна, и то, что вот у этой булочной сломает ПХП-сервер, тоже, в общем, никого ни к чему не приведёт. На мой взгляд тут скорее вся история в то, что открытые продукты сейчас подвергаются очень большим атакам, просто в силу того, что они получили достаточно большое принятие, да, то есть много людей ими пользуются, много людей, компаний, и они пользуются ими как данностью, да, то есть в том смысле, что вот они бесплатно доступны, давайте ими пользоваться, они достаточно хорошие, но оказалось, что это хорошо для прошлой эпохи. Для этой эпохи оно не очень хорошо, и у нас два варианта: либо, соответственно, полностью отказаться от открытых каких-то решений и переходить на закрытые с не очень понятной эффективностью, а, либо просто махнуть рукой. Я подозреваю, что большая часть людей так и сделает.

Дмитрий Колодезев 52:17
Это же уже не первая история, когда находят дыру у всех, например SSH bleeding история, она была гораздо хуже, потому что там эксплуатация была на второй день уже везде, да? Вот, а тут многие сервера до сих пор, я просто вижу, что сервера на PHP работают, и ничего с ними не происходит. То ли у хакеров рук не хватает, то ли на самом деле дыра не такая дыра, как об этом рассказывали. Такие.

Валентин Малых 52:46
Слушай, ну хакеров не так много понимаешь, вот, мне кажется, многие не очень понимают как вообще в целом работает холодный обзвон, например, да? Вот ну такой, некоторая аналогия, я думаю, сейчас будет понятно, что я имею в виду, что вот у тебя есть база из 10.000 человек, откуда у тебя есть 10.000 номеров. И ты, соответственно, этим людям звонишь, а, просто там по 100 раз в день, да? Если ты по 100 раз в день звонил, значит, тебе нужно примерно 3 месяца, чтобы обзвонить всех. Вопрос в том, что можно, наверное, так и сделать, но зачем потратить довольно много ресурсов, если можно попробовать про этих людей что-то узнать и обзвон уже станет из совсем холодного каким-то полутёплым, да? Мы узнаем, что, например, половина этих номеров принадлежат мужчинам. Это уже довольно большая информация. И здесь то же самое, что не так много людей реально заинтересованы сломать что-нибудь. Да, есть там школьники, которым просто это ради интереса есть там какие-нибудь зловредные хакеры, которым это нужно для того, чтобы вымогать денег. Но, опять же, возвращаясь к примеру с булочной много-то денег у булочной вообще говоря, не вымогнешь, да? Там у неё просто нет, она закроет свой сайт и будет торговать просто с лотка, да, не с не с своего сайта. Для школьников, мне кажется, это может быть, даже и не так интересно, да? Их привлекает какая-то самоотверждение, а не то, что ты вот конкретно в ближайшие будущие что-то сломал. Вот как-то так, наверное.

Дмитрий Колодезев 54:17
Обычно мелочь взламывают для того, чтобы через них развивать атаку на крупняк, поэтому как бы то, что конкретная булочная никого не интересует, до тех пор, пока через неё можно, а через 1.000 булочных додосить сайт банка в общем, норм.

Валентин Малых 54:33
Не, ну да, это понятно. Если это не мешает Facebook, я не думаю, что кто-то будет сильно заморачиваться.

Дмитрий Колодезев 54:39
Вот, да. И тут мы приходим на самом-то деле, может быть, к некоторому симбиозу. Мы, кстати, жили в этом состоянии, просто не все это осознавали. В, скажем, наверное, 20 лет назад большая часть компьютеров была заражена вирусами, о чём, а, пользователи не знали, и, в общем, не всегда это им мешало. Вот, а очень многие компьютеры людей, которых я вот знаю старшего возраста, старше меня, там стоят какие-нибудь рекламные скрипты, вирусы, что-то ещё, им это тоже не мешает, и как бы не обращают внимания. Иногда я это окно закрываю, говорят они. Точно так же, как на коже человека, например, живут пропионовые бактерии и грибы, и они друг с другом конкурируют, а мы при этом продолжаем записывать подкасты, в общем, не отрываясь, то, наверное, какое-то количество цифровой плесени будет существовать. Вот, которая нам не мешает. И, а, подход тут будет контролировать её активность, наверное. Вот так.

Валентин Малых 55:45
Слушай, ну тут надо в очередной раз сказать, что вирусы того же гриппа, они максимально не заинтересованы в том, что вам было нехорошо. Они заинтересованы в том, что через вас сделать побольше вирусов, и то, что у вас поднимается температура - это такой неприятный побочный эффект, тем более вызванный не вирусом, а реакцией на вирус, так, если по-честному. И поэтому они-то как раз заинтересованы в том, чтобы тихонечко себе в уголке жить и продолжать разбрасывать вирусные частицы, а как бы ваше здоровье им там даже на руку, да? Это то же самое про вот эти цифровую плесень, как ты, так что, по-моему, здесь аналог полная аналогия. Как раз начали про вирусы говорить, и у нас тут про гены. Из забавного, ну как забавного, мыши, наверное, было не очень интересно, но, в общем, её никто не спрашивал. Произошло следующее: некий стартап взял, значит, мышь, сделал, они сами разработали установку на Ардуино для автоматического осуществления хирургических действий, и, хмм, одни использовали и-агента, по-моему, это был Sonnet, Sonnet какой-то там 4, если я правильно помню, потому что Claude Opus 5.5 сразу отказался этим заниматься. И вот этот Sonnet, он, соответственно, выбрал терапию и выбрал то, куда нанести укол в мозг этой самой мыши для того, чтобы вылечить какую-то болезнь. Я забыл какую, то ли эпилепсию, то ли что-то такое. У этой мыши там в треде было то, что через сутки мышь чувствовала себя хорошо и хорошо восстанавливалась. Насколько это реально так, уже прошло больше недели, я не могу сказать, но больше новостей про мышь мы не знаем. Вот но если подытоживать, то автоматическая операция с помощью и-агента, да, то есть и-агент, который управлял роботом для проведения хирургической операции на мыши состоялось. Видимо, следующий шаг уже это всё повторить на обезьяне, а потом на человеке. Как-то так.

Дмитрий Колодезев 57:46
Слушай, ну вот мы говорили про как раз редактирование нейронок прямо в лесах.

Григорий Чернов 57:54
Угу.

Валентин Малых 57:56
Вот-вот.

Дмитрий Колодезев 57:57
И они будут редактировать прямо в нейроны прямо в лесах. На самом-то деле, роботы нейрохирурги, мне кажется, это совершенно логичная история.

Григорий Чернов 58:11
Да, да. Я считаю, что это будет именно в силу того, что нужна какая-то рутинная повторяющаяся работа. Да, она супер ответственная и супер тонкая, но именно повторяющаяся, да, что вот надо там здесь зашить, да, там, вот здесь надо ещё что-нибудь сделать робот это сделает лучше, чем хирург, который, может быть, занят каким-то другим важным делом в этот момент, да? Если есть какие-то вещи, которые нужно сделать повторяющимся, с повторяющимся качеством, мне кажется, робот это и довольно естественное мероприятие.

Дмитрий Колодезев 58:41
Здесь непонятно, здесь как бы из новости пока речь про то, что именно место выбрано было через нейронку или в чём как бы

Григорий Чернов 58:51
Оно управляло.

Дмитрий Колодезев 58:52
Место и препарат.

Григорий Чернов 58:53
Управляла этой штукой, выбрала куда тыкать и чем тыкать.

Дмитрий Колодезев 58:58
Угу.

Григорий Чернов 58:59
И куда тыкать, у неё была какая-то модель 3D-карта.

Валентин Малых 59:04
Она смотрела на картинку, на на картинку и, соответственно, выбирала по картинке, насколько я понял. Может быть, там ещё какие-то дополнительные параметры были, но вот это я не уловил.

Григорий Чернов 59:14
Мне в этом контексте вспоминается в научно-популярных кругах была новость некоторое количество времени назад довольно старый эксперимент по-моему, 2015 года или или около того, про то, что голубей научили распознавать по снимкам рак молочной железы, по-моему. И поскольку ты им показываешь картинку, они могут бинарно выбрать, как бы, есть, нет, то же, и получить какое-то вознаграждение, если не угадывают. И, в общем, точность, если я правильно помню, достигала 99% там. И, в общем-то, или приближалась к человеческой, или превышала человеческую. Поэтому, когда мы думаем, что какой-то процесс обязательно это какой-то очень умный процесс, в котором нужна какая-то высокая специализация, надо помнить и то, что, в общем-то нейросети, в том числе и живые, и просто большое количество агрегации случаев информации, оно часто даёт довольно хороший результат по дефолту. Поэтому, может быть, история это про то, что это просто некоторый классный процесс автоматизации, а конкретно процесс по нейронкам тут немножко ни при чём. Он просто дешевле и быстрее помогает нам этот процесс по дефолту развернуть. И что, может, не так уж и нужно бояться того, чтобы в части процесса применять решение. Принятия решения пробовать их использовать, особенно если понимать, если есть карта. Если есть карта, вообще отлично.

Дмитрий Колодезев 1:00:25
Мне, честно говоря, тут заинтересовало то, что это была текстовая модель. Вот, то есть то, что

Валентин Малых 1:00:31
Она текстово-картиночная всё-таки.

Дмитрий Колодезев 1:00:33
Да, текстово-картиночная Sonnet. То, что можно взять и обучить модель ML-модель подводить точкой в нужное место, я не сомневаюсь, всевышнюю. Вот, специализированную робототехническую. Дело в том, что эта модель общего назначения. Грубо говоря, мы взяли дворника с улицы и сказали ему: "Так, а теперь ты будешь нейрохирургом". Он сказал: "Хорошо, помыл руки и стал нейрохирургом". Это тот же самый Sonnet, которому мы ему даже тесты писать не доверяем.

Григорий Чернов 1:01:03
В прогнозировании, насколько насколько я знаю, это одна из самых распространённых тактик, когда вы берёте какие-нибудь данные, превращаете в текст и наоборот, и как с текстом с ними работаете. Предсказываете следующее значение, например, регрессии, как предсказание токена. Они это любят, это модная тема сейчас. Кажется, что просто у некоторого количества текстов и информации есть некоторая экспрессивность, и тут скорее интересно, на чём такие модели учатся. Я не знаю, опять же, какой сейчас фронтир, но кажется, что и какое-то количество экшенов и ситуаций, и результатов тоже начинают потихоньку везде включать, а не только как бы Википедию всё время подсовывать при обучении. Может, это тоже очень большой прирост даёт.

Дмитрий Колодезев 1:01:43
Угу. Интересный хаотизм. Разрывным, говорит, левее, выше, два вверх, двойной заряд, огонь. В том смысле, что это вот тоже прицел, в том смысле, что это словами управляют на на настройкой орудия зенитного или гаубицы. Вот, то есть корректируют. И, в принципе, поток информации примерно тот же самый, что и при корректировке иглы и выборе лекарства. Процесс один и тот же. Мы прицеливаемся, корректируем выбираем подходящую, где лекарство, где заряд, где взрыватель в общем, такая вот история.

Валентин Малых 1:02:20
Слушай, если вот судить по нашему опыту с Квеном, да, то даже маленький Квен очень неплохо умеет соответственно, выбирать текст на картинке, да, определять, а положение объекта на картинке, Клод-то сильно лучше, даже старый Клод, даже Sonnet 4, тем не менее, прекрасно с этим справляется. Так что я думаю, что здесь это как раз следствие того, что на других данных можно обобщиться, и ты в целом, имея представление о том, что тебе, не знаю, надо что там, кубик Рубика собирать, да, то ты, в общем, после этого можешь примерно понимать, как там структуры в мозге друг с другом соотносятся, потому что это тоже сложная структура. Может, не самый удачный пример, но тем не менее.

Дмитрий Колодезев 1:03:02
Да, я просто хотел сказать, что ещё несколько лет назад для каждой задачи было принято учить свою модель своего вида, своего типа, со своими входными данными и архитектурой, а теперь мы ничтоже сумняшеся, пихаем её в ЛМку и норм. Вот так.

Валентин Малых 1:03:22
Тут как раз две вещи. Во-первых тут подтренировались на кошечках, в смысле, на мышках, а с другой стороны тут история про то, что ЛМ действительно оказались очень сильно, а, генерализуемы, да, то есть они, а, умеют очень хорошо обобщать вообще всё, что угодно. Это совершенно не было понятно там лет пять назад, а вот соответственно, последние 3 года мы живём в тот момент, кстати, да, 3 года как раз прошло, а, в тот момент, когда у нас есть очевидный инструмент, который у тебя из молотка превращается в микроскоп и обратно просто по ходу действия, да, то есть тебе внезапно в процессе работы потребовался микроскоп, оп, у тебя уже в руках микроскоп, который тебе что-то делает. Вот универсальность ЛМ - это как раз и есть ключ ко всем дверям, да, то есть это паспорту, если кто-то знает, о чём я.

Дмитрий Колодезев 1:04:12
То то, что как раз называли AGI, да?

Валентин Малых 1:04:15
Да, да

Григорий Чернов 1:04:40
И понятно, что когда мы видим, когда это кто-то эффективно делает в тех областях, в которых мы не видели, нас это впечатляет. Насколько это на самом деле как бы наукоёмкая процедура и точечная, сказать сложно. Может быть, для в формате распознавания изображения или ориентации в 3D-пространстве, она в этом контексте просто не очень не очень структурирована. Это может быть просто этот вопрос как бы кодинга, распознавания какого-то большого слоя и там работа одного элемента интеллекта, какой-нибудь рабочей памяти, поэтому это эффективно хорошо справляется.

Дмитрий Колодезев 1:05:14
Согласен.

Валентин Малых 1:05:15
Слушай, да, тут вопрос в том, что вот Дима сказал страшные слова AGI, я от них обычно морщусь, и я тут хотел что сказать, что я полностью поддерживаю точку зрения Яна Лекуна и других товарищей, которые говорят, что не существует такого понятия, как общий искусственный интеллект, да, то есть наш естественный искусственный, наш естественный интеллект - это людей, он вообще ни разу не общий, да, он на довольно конкретные вещи нацелен, да, там, покушать побегать, ещё что-нибудь такое, да? Довольно конкретный набор действий, то, что мы сейчас с вами можем обсуждать новости про ИИ - это некоторое побочное следствие, которое, в общем-то, дизайном не предусмотрено, это так, глюк программы по большому счёту. И соответственно, история в том, что нейронки оказались довольно успешны в задачах, про которые мы не очень понимаем, почему они связаны, но это просто говорит о том, что мы не очень понимаем, почему они связаны.

Григорий Чернов 1:06:10
Вот как-то так.

Валентин Малых 1:06:13
Тут очередной громкий заголовок. Я в это совершенно не верю, но тем не менее, заголовок звучит так, что ИИ-пузырь лопнул, американские технологические гиганты потеряли до 30% капитализации. Тут тут, к сожалению, нет этого красивого графика, на котором там видно, что там определённые бигтехи потеряли там кто 20, кто 25% капитализации, NVIDIA, кстати, потеряла семь. На пике того падения, оно, кстати, уже, насколько я представляю, отыграно довольно неплохо. Но тем не менее на мой взгляд, вот если сразу с КЗИ заходить, да, на мой взгляд, это всё просто не более чем какая-то раскачка рынка, не знаю уж в чьих интересах, потому что мм, те условия для того, чтобы пузырь лопнул, они, в общем, были вчера такие же, и завтра будут такие же, и пока пузырь не лопнул, а продолжает, в общем-то, надуваться. На мой взгляд, у нас пока не произошло никакого конкретного события, которое бы можно было сказать, ага, вот всё, теперь пузырь лопнул, и, точнее, вот сейчас он должен лопнуть, потому что у нас вот что-то. Вот я хочу послушать экономистов, что экономист скажет вот на такое рассуждение.

Григорий Чернов 1:07:19
Слушайте, ну пузыри - самая неблагодатная тема в экономике, в том смысле, что непонятно, как свою экспертность оценивать, да? Хотелось бы, может быть, с прогнозами, там это какой-то относительно стохастический процесс и сложная игровая модель, как другие оценивают стоимость будущих дисконтированных денежных потоков сейчас и с учётом своих действий. Мне кажется, здесь, чтобы это в какую-то понятную область рассуждения положить, мне кажется, что здесь стоит больше что прокомментировать, что финансовые рынки в целом не очень рассчитаны на ситуации, в которых оценка стоимости, в оценку стоимости начинает вмешиваться что-то ещё. Вот давайте такой пример приведу. В очень многих странах сейчас есть проблемы со стоимостью жизни жилья, и так в том числе происходит, потому что у нас жильё одновременно является некоторым базовым товаром длительного употребления, который каждому человеку необходим, и он, соответственно, как-то его жизненную траекторию, качество жизни определяет. С другой стороны, получается, что это финансовый актив. Финансовый актив, у которого есть определённая стоимость, и в некотором смысле рынок нас подталкивает к тому, что если финансовый актив растёт, если вы не вкладываете в него, вы проигрываете. Получается как раз вот это перемешивание, да, того, что у вас есть некоторая штука, которую вы хотите по какой-то причине, чтобы на ней работали нерыночные механизмы того, как с ней взаимодействуют, а с другой стороны, как бы рыночные механизмы в общем, как-то это разгоняют. И вот с AI-компаниями похожа немного ситуация, потому что здесь очень сложно отделить как бы историю того, почему на самом деле разные игроки в это инвестируют. Понятно, что у вас есть всегда те, кто классические инвесторы, которые видят в этом какую-то будущую стоимость и понимают, что на длительных промежутках времени для себя они по какой-то причине считают, что стоимость будет только увеличиваться. Понятно, что есть какое-то количество алгоритмических трейдеров, которые вот из глубину падения отыгрывают во всё остальное. Но кажется, что ещё в даже среди нами сегодня затронутых тем, по то, что, например, AI - это кибероружие сегодня, да, и какое угодно ещё другое оружие. Вот кажется, что в в какой-то момент времени в это начинает вмешиваться фактор, который можно было бы так сформулировать, что сколько бы это ни стоило, нам нужно это развивать. Любой стране, которая про это рассуждает, да? И вот как только начинает появляться такой фактор, тут уже довольно сложно сказать, стоимость, которая сейчас относительно там S&P 500 для кого-то индекса, индексируется и инвестиции, которые туда положены. Это стоимость, потому что оно в экономику вносит тот вклад и в той пропорции времени, в которой рынок его приписывает, или это потому что там некоторое количество инвесторов или государственных инвесторов, они в какой-то момент решили для себя, что вот эта уплывающая лодка в будущее, я обязательно должен быть на этой лодке. Сколько бы для меня это ни стоило, я буду вкладываться, пока я буду вкладываться. Поэтому, мне кажется, что в этом смысле ситуация двояка. Мне кажется, что нельзя сказать, что у этих, ну как бы, точно можно сказать, что как сейчас не будет.

Валентин Малых 1:10:19
Во-первых,

Григорий Чернов 1:10:20
Идёт конкурентная гонка между разными компаниями, и понятно, что кто-то выиграет, а кто-то проиграет в итоге в конце. Во-вторых, идёт поиск моделей монетизации и способов монетизации. Тоже, мне кажется, то есть текущее состояние очень неустойчиво. И в смысле там экономики токенов и всего такого. Вот этих прекрасных историй про то, что я как-то увидел, как человек спрашивает в чате, сколько будет 12 + 13, и сразу побежал покупать акции Nvidia, да, потому что понятно, что это будет бесконечно тянуться. Вот, мне кажется, что с точки зрения того, как мы на это смотрим, очень, к сожалению, плохо предсказуемая траектория у технологических компаний просто, в смысле, у конкретно занимающихся AI, просто потому, что, во-первых, рост стоимости идёт очень неравномерно и непонятно, где он исчерпает. Вот пошёл прогресс, например, по математическим доказательствам и автоматизированному поиску контрпримеров. Это как бы с одной стороны, вроде красивая игрушка, которую можно с точки зрения пиара красиво как бы публиковать. С другой стороны какое-то количество логистических задач и задач комбинаторного перебора, а это уже вполне задачи, в которых стоимость прямо лежит, да? Вы можете как бы за счёт хорошей точной решения какого-то конкретно, например, взять и оптимизировать кусок логистики огромной. И сколько таких прорывов в некоторое ближайшее время произойдёт, никто не знает, поэтому стоимость завязанная на эти прорывы - довольно спекулятивная вещь, особенно у разных игроков. Поэтому понятно, что как бы вот текущая модель возвращаясь к базовому топику. Все эти разговоры про то, что есть какой-то AI-пузырь, они на что завязаны? Они завязаны на то, что если мы попробуем оценить стоимость подписок и стоимость монетизации, которая есть текущая, их объёмы и структура рынка, то столько, сколько вот эти компании инвестируют, они столько не стоят. И кажется, что вот те, кто в это инвестируют, плюс-минус в этом все согласны. Мне кажется, что из-за того, что это состояние неустойчивое, устремлённое в будущее с некоторыми ростами стоимости вот нелинейными, которые будут происходить, как бы, к сожалению, сказать, речь идёт про какой-то пузырь в контексте того, что вообще никакого прогресса больше не будет, оно где-то устаканится, и это сейчас экономика не сходится, оно само неокупаемо в том объёме, в котором он торгуется. И или сказать, что в это инвестируют ещё и потому, что есть какая-то объективная стоимость, которая сейчас не наблюдается, она точно будет прорастать, с одной стороны, а с другой стороны, неважно, сколько это будет людям стоить, им нужно будет оказаться в вершине этой технологической цепочки, потому что, как говорил Дмитрий, если вы найдёте ключ от всех замков, вам важно будет, сколько дней он у вас будет первым. Вам неважно будет, сколько это будет стоить, в смысле, каждодневных подписок. Поэтому это максимально спекулятивная тема, и, к сожалению, она на нас будет влиять всё больше и больше, потому что объём оборота и ресурс, который человечество на них тратит, всё больше и больше к индексам завязывается. Мне кажется, здесь скорее вот во всей этой новости, если на неё смотреть, скорее примечательным кажется то, что какой процент от S&P 500 это заняло уже сейчас, да, как бы рынка, которого не было там 3 года назад, в общем-то. Вот на это бы я смотрел и смотрел бы, как бы, оно какое-то время будет ещё штормить. Наверное, это не последний откат. Мне кажется, что это больше мы переходим в период, когда каждый год или два будет случаться какой-нибудь скачок в ту или иную сторону, и важно смотреть ещё и вот на на на объём проникновения в общую капитализацию. Мне кажется, что как бы здорово будет, если процесс будет немножко оздоравливаться и распределяться, и экономическая стоимость начнётся генериться компаниями типа IBM, где у нас есть слой physical AI, они хотя бы диверсифицированы. Менее здорово, если будет продолжаться концентрация капитала, и мы, во-первых, будем зависимы информационно от некоторого количества компаний конкретного, да? Во-вторых, мне кажется, что для нас, как бы, как для жителей планеты Земля, вся эта ситуация ещё немножко печальна тем, что, в общем-то, такой концентрации власти и капитала не было ни у кого никогда, как условно, у Сэма Альтмана. Мы в некотором смысле заложники этой ситуации. Если бы процессы рынки были хорошо оптимизированы, наверное, бы здесь можно было бы думать в сторону какого-то регулирования, размежевания, всякого такого. Но мне кажется, ни игроки не договорятся, и противостояние между разными полюсами и державами будет всех подталкивать к тому, чтобы они скорее больше концентрировали это и скорее гонка разгонялась. Ни индивидуальные стимулы у тех, у кого уже сейчас эта концентрация капитала и интеллектуальных моделей, да, и новых просто вот физических моделей, находится, у них тоже нет никаких стимулов это кому-то не было отдавать. Увы.

Дмитрий Колодезев 1:14:59
Слушайте, а у меня есть теория заговора.

Григорий Чернов 1:15:03
Давай.

Дмитрий Колодезев 1:15:04
Дело в том, что почти у всех упали акции, кроме Амазона. Амазон только выросли. Грубо говоря, люди не верят в способность дорого продать купленные акции Nvidia, AMD, а с Амазоном всё нормально будет. Поэтому это не то, чтобы технологические компании, это именно из AI вопросы вызвали. И двадцать шестого, конечно, двадцать шестого октября была паника на биржах. Но вообще-то я посмотрел, пока вы разговаривали, курсы падали с 6 октября. С 6 октября у всех AI-компаний они начали падать сначала помаленечку, помаленечку, а потом кто-то заметил общий тренд, и они резко скакнули. Сейчас назад отыгрывают. 6 октября, на самом-то деле, ничего особенно не случилось, кроме того, что Трамп сказал, что, ну да, мы мы будем снимать ограничения, несмотря на политику и так далее, мы кое-какие санкции будем снимать, потому что бабло есть бабло. И возможно, что в вклады в AI сектор - это просто идут от невозможности вкладывать в реальную экономику. В реальной экономике всё плохо, ну давай мы сложим в AI. И он, конечно, переоценен, он, конечно, пузырь, но ничего лучше-то у нас всё равно нет.

Григорий Чернов 1:16:20
Слушай, это интересная гипотеза.

Дмитрий Колодезев 1:16:22
Вот это теория заговора, ничем не обоснованная. Тут Трамп говорит: "Да ладно", - говорит, "Деньги деньгами, давай торговать, несмотря на санкции". Все такие: "Блин, ладно, фиг с ним с AI, может быть, удобрения прикупим". Так вот.

Валентин Малых 1:16:39
Тут некоторое количество сенаторов, я могу ошибаться, я правда, не настолько хорош в, соответственно, их внутренних перипетиях. Но, в общем, суть в том, что некоторое количество сенаторов подали требования к президенту, вроде как они имеют это право сделать, чтобы он опубликовал свои переписки с LLM-ками. Вот это, представьте, что у вас от вас жена требует, чтобы ты показал, что ты там с LLM-кой переписывался, а вот что ты там наговорил ей с ним, а тут на на всю страну, да, на весь мир надо такое показать. Не знаю, я бы напрягся, но тут посмотрим, как что из этого выйдет. Звучит как очень хороший повод для сплиттинга.

Дмитрий Колодезев 1:17:18
Слушай там же была история, что они украли товарища Мадуро, президента Венесуэлы, что само по себе, вообще-то говоря, поступок такой выдающийся, то есть не так уж часто президентов крадут. Крадут, бывает, но не каждый день. И не очень понятно, на самом-то деле, пока мне, может быть, я что-то упустил, какая конкретно польза Штатам-то от этого? Помимо того, что Венесуэла теперь понимает, что у неё президента могут украсть. Надо лучше беречь. Что поменялось-то? Зачем? И вот с точки зрения, возможно, части законодателей, это поступок был бессмысленный, внедряющий, вредящий экономическим интересам США в Латинской Америке. И вот они говорят: "А может быть, его там Грок посоветовал?"

Валентин Малых 1:18:06
Надоумил.

Дмитрий Колодезев 1:18:07
Да, надоумил, да. Вообще серьёзно. И вы, говорит, должны консультироваться не с Гроком, а с конгрессом.

Валентин Малых 1:18:18
Не, это это прекрасно. Когда LLM начинает конкурировать с конгрессом, это что-то мы в какой-то новой реальности живём, откровенно новой.

Дмитрий Колодезев 1:18:26
Да. Во-первых, говорит, вы консультировались с Гроком, а не с конгрессом на выдвижение войск в это самое, military deployment в Венесуэлу. Во-вторых, говорит, использование AI-чатботов во время обсуждения таких важных вопросов это нарушение безопасности Соединённых Штатов. Ты бы ещё на заборе писал, на форуме обсуждал бы, не на пашне на президента суверенной страны, да. Вот такие вот вещи.

Валентин Малых 1:18:57
Слушай, ну тут можно всё-таки отбить тем, что Илон, по-моему, Маск - это человек доверенный, наверное, у него есть какая-то инсталляция Грока, а у него точно она есть, мы это знаем, специально для госорганов. Я не знаю, есть ли она специально, например, какая-то особо доверенная для президента, почему бы и нет, собственно.

Дмитрий Колодезев 1:19:14
Про современную политику всё писал Виктор Олегович Пелевин. У него есть книга, в которой есть операция Буш, куст. Когда американскому президенту якобы из горящего куста голос Божий говорил, что надо делать.

Валентин Малых 1:19:29
Насколько помню, через зуб.

Дмитрий Колодезев 1:19:30
Да. Да, через зуб, да. Операция Буш. И вот тут та же самая история. Представьте себе, что LLM получает заказ. Так, а сегодня этот президент получит вот такой совет. Можно рекламу не продавать.

Валентин Малых 1:19:46
Трамп же продаёт доступ к своим твитам. Как бы, а тут почему нет?

Григорий Чернов 1:19:52
Мне кажется, что это старая история в новой упаковке. Тоже я согласен с вами, что Грок - это здесь скорее антураж, чем какое-то новое явление. Мне кажется, что я в Британии сейчас сижу. Мне кажется, что в местном контексте очень характерный фильм, на который можно сослаться, чтобы примерно себе это представить, это как раз про события развёртывания войск на Востоке, кажется. И этой компании. Это фильм, который называется In the Loop. Ещё был старый прекрасный британский сериал, тоже, по-моему, того же драматурга. Я с министром назывался. Вот тоже прекрасно все эти перипетии истории сделаны. С точки зрения безопасности, как бы, ваших переписок и всякого такого, ну вот ещё один как бы слой цифровых следов, мне кажется, хорошо бы здесь закольцеваться в локу хостинг. Мне кажется, что рынок-то может у него как раз не корпораций, а частных лиц будет расти. Каждый будет себе потихонечку, кто может, разворачивать сервер, если не для того, чтобы консультироваться, значит, относительно каких-то рисковых операций, то хотя бы вопросы в стиле за сколько в аэрогриле курицу приготовить. Иногда какие-то глупенькие. Ты, может быть, хочешь как бы у себя на железе крутить, не платить за эти токены, иметь предсказуемость и самоконтролировать, какие данные куда льются.

Валентин Малых 1:21:13
Про это можно сказать то, что уже там пару лет назад кто-то предсказывал, что будут у всех ИИ-агенты, у тех, у кого будут бесплатные, те, соответственно, будут про курицу узнавать в каком супермаркете она дешевле, если вы понимаете, о чём я. Соответственно, те, у кого будут локальные, те будут всё-таки узнавать про то, как курицу приготовить.

Дмитрий Колодезев 1:21:34
Я думаю, что они тоже будут узнавать, как курицу приготовить и с какого супермаркета её купить. Тут более высокий ценник не означает, что они не могут получать рекламу. Знаешь, есть одна, я не буду называть тут контору, а очень хороший информационный сервис, особенно активный в Новосибирске, и показывающий много рекламы. Я как-то спросил их руководителя подразделения, достаточно осведомлённого о внутренних делах. Я говорю: "Слушай, говорю, нельзя вам там, скажем 5 долларов в месяц платить, чтобы вы рекламу мне не показывали?" Он говорит: "Нет", - говорит. "Реклама, которую мы тебе показываем, нам приносит больше денег".

Валентин Малых 1:22:15
Больше, чем 5 долларов, да?

Григорий Чернов 1:22:17
Facebook же, кстати, например, ценник прямо выставляет. Их обязал, а английский регулятор обязали предоставлять бесплатную подписку, и она стоит в районе 25, по-моему, фунтов, можно проверить, в в месяц.

Валентин Малых 1:22:33
Бесплатная подписка.

Григорий Чернов 1:22:34
Чтобы тебе не показывали рекламу, и твои данные не использовались, чтобы ты платил. Типа ты там выкупаешь, короче, это же модель. Вот, и она на на не очень удачной была. В общем, в общем-то, да, в общем-то, кажется, что он на твоих данных зарабатывает довольно большое количество денег. Ты сам свои данные настолько не оцениваешь, как будто, когда про это думаешь, и овнить свои данные пока, по-моему, никто глобально не собирается, во всяком случае, для корпораций, мне кажется, это точно не выход текущий. Так, конечно, было бы здорово.

Дмитрий Колодезев 1:23:03
Вообще, на месте Дональда Трампа, я бы, конечно, крутил Квен на своём железе.

Валентин Малых 1:23:10
Прямо в овальном кабинете поставил стоечку, да, и на ней. Это раз.

Дмитрий Колодезев 1:23:15
Да.

Григорий Чернов 1:23:16
В принципе, в принципе, интересно, почему он напрямую переписывается, как бы, у него нет каких-то посредников. Странная история.

Дмитрий Колодезев 1:23:23
Вот есть мнение, что один президент краше другого, но это уже тема для другого подкаста, наверное.

Валентин Малых 1:23:31
Да, да, да, это уже другой будет подкаст. Я думаю, что здесь будем заканчивать. Спасибо большое, что нас послушали. Подписывайтесь на везде, где нас видите, слышите. У нас есть YouTube, ВК видео и подкастные площадки. Вот, обязательно присылайте новости в Мотормост. Сегодня у нас мало новостей получилось обсудить, но тем не менее, вы всё равно присылайте, мы будем стараться. Вот, всем спасибо.

Григорий Чернов 1:23:56
Спасибо, Георгий, что пришёл.

Валентин Малых 1:23:57
Всё, тогда пока-пока.