Капитанский мостик 2-18

Восемнадцатый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

• Youtube
• RuTube
• VK Video
• Звук
• Аудио
• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Содержание

• 00:00:00 Начало
• 00:00:55 Европейское роботакси
• 00:03:59 Правда про OpenAI
• 00:07:39 Бигтехи и правительство
• 00:21:22 Anthropic и финансы
• 00:24:49 Grok и финансы
• 00:35:21 GPT на FPGA
• 00:46:31 Подкасты от ИИ
• 00:52:09 Датацентры в море
• 00:57:04 Доходы и ИИ
• 01:04:21 Малайзия и ЦОДы
• 01:09:32 Скрепы для ИИ

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. Мы рады вас приветствовать. На очередном выпуске Камитанского мостика у нас сегодня замечательный гость Павел Петраченко. Он даже мне разрешил сказать, что он не просто из абстрактной компании, аж из самого Huawei. Это очень здорово, Паша, спасибо. Вот мы очень рады, Паша, приветствовать. Я надеюсь, что нам всякое интересное расскажет про агентов и вообще. Вот последнее объявление перед тем, как начнём. Соответственно, DataFest уже совсем скоро. Пожалуйста, подавайтесь. Вот только что было объявление про то, что в Новосибирске открыта запись, в смысле, можно подаваться и регистрироваться. Ну, понятно, что в Москве и в других городах, пожалуйста, тоже регистрируйтесь. Будем рады. Всем привет! Привет! Мы решили начать вот с этой новости. Значит, первое роботакси в Европе появилось в Хорватии, начинается по стоимости от двух евро за поездку. Из интересного, на самом деле, тут нужно сказать, потому что Конкретно Bloomberg пишет так, что не очень понятно, а тут вообще говоря, есть важный нюанс, который стоит озвучивать. Дело в том, что Там есть локальная компания, которая называется «Верная», и вот она запустила 10 электрических такси в Загребе. А что это за такси? Во-первых, Это китайская машина под названием BAIC. А во-вторых, важно, что используют они на самом деле технологии не от Uber, как тут пытаются активно намекнуть, а от китайского стартапа Pony.ai, про который, в общем-то, в других местах пишут, не скрываясь. И для Pony.ai это уже, соответственно, вторая зарубежная страна. Первая была Саудовская Аравия, вторая стала Хорватия. Вот.

Дмитрий Колодезев 2:03
Слушай, но Москва не Европа, конечно. В Москве же какие-то на территории ходили тоже роботакси. То есть и в Иннополисе они ходили, насколько я знаю.

Павел Петраченко 2:17
Кажется, что это просто момент психологического принятия, который постепенно приходит. В смысле, технология уже есть, ошибается она не так часто, возможно, реже, чем люди. Просто, как бы, нужно, чтобы регуляторы до конца дозрели, равно как и люди. И, ну, там год-два это завершится.

Валентин Малых 2:36
Ну, у нас в России уже принят закон, который разрешает robotaxi в каком-то виде и безопасной эксплуатации с 27-го года, то есть все следующего. Так что у нас кажется, что стадия принятия уже прямо близко. Вот. А в Хорватии, естественно говоря, я и знаком с законодательством. Полагаю, что, так как страна маленькая, решили, что там можно поэкспериментировать, и не особо жарко. Я думаю, как-то так.

Дмитрий Колодезев 3:03
Я думаю, тут ключевое, что Хорватия в Европе. И если ты запустился в Хорватии, откатал, то ты сможешь всю Европу катать.

Павел Петраченко 3:17
Вопрос, делегируют ли они столько своей независимости, Евросоюз.

Дмитрий Колодезев 3:22
Ну, посмотрим. Тот же главная проблема во всех этих robotaxi сейчас юридическая. Кто будет сидеть, кто будет платить за аварию и так далее. Вот, и есть разные мнения, вплоть до того, что, например, как у нас в стране принимают субсидиарную ответственность по всей цепочке разработки, вплоть до... Разработчиков LEMOC, например, ну вот там есть законопроект. Вот поэтому пока тут не договорятся, а для того, чтобы договорились, надо, чтобы robotaxi въехало в автобус с школьниками или что-нибудь ещё ужасное произошло. Тогда все законы раз провернутся и всё оформится.

Валентин Малых 4:00
Вторая новость прикольная, прежде всего потому что, подчеркиваю, это не машинный перевод, это не ложная тревога, да, это действительно на самом деле OpenAI на русском языке на своём сайте вывесила вот такой вот, я не знаю, манифест, в котором она рассказывает всякие страшные вещи про то, как они Илоном Маском друг друга любят или не любят, тут уже с какой точки зрения посмотреть. Но на мой взгляд, сам факт того, что они об этом даже по-русски написали, да, это уже о чём-то говорит, на мой взгляд. Ну, тут как бы единственное, что хочется тут сказать, как бы, вот есть мир дикого Запада.

Павел Петраченко 4:41
И там есть такой то ли припев, то ли что-то, что мне запал, у бурных чувств неистовый конец. И вот если мы посмотрим, скажем так. Я люблю смотреть на людей вокруг себя, но вокруг меня это не так показательно. Но, опять же. Смотрим на людей, которые имеют несколько больше, ну, там на несколько порядков ресурсов, то кажется, что один из основных драйверов, который заставляет их бежать делать что-то, это всё так же те самые бурные личные чувства. Поэтому мне совсем неудивительно, что ребята, которые делают OpenAI, могут не любить Илон Маска достаточно сильно. Это может их мотивировать на работу, так же, как Илон Маск.

Валентин Малых 5:23
Ну, то есть, ты хочешь сказать, что Илон Маск способствует продвижению и за счёт реактивной тяги, если я правильно прочитал то, что ты пытался набить.

Павел Петраченко 5:34
Ну, я говорю прямым текстом, что основной драйвер того, что происходит в нашем мире, это эмоции людей, наш тестостерон, наше желание там соревноваться, побеждать, доказать, что я там самая крутая или наоборот самая там креактивная, или какая-либо там обезьяна на деревьях. И как бы мир это очень бодро эксплуатирует.

Дмитрий Колодезев 5:56
Слушай, ну я, наверное, согласен. Для разнообразия интересно тут то, что действительно. Один из учредителей, OpenAI гендиректор, вел бумажный дневник, он был присвокуплен к доказательствам и на основании записей в бумажном дневнике. Типа, здравствуй, дорогой дневник. Приходил, Маск предлагал деньги, я у него возьму, но потом я собираюсь миллиард долларов получить капитализацию и себе забрать. То есть, это буквальная цитата. Вот, ну, в общем, действительно, этими людьми драйвят эмоции.

Валентин Малых 6:36
Ну, честно говоря, вот лично мне как-то диковато слышать, что человек прямо вот по-честному написал на бумаге, что он собирается кого-то шваркнуть, а потом, соответственно, эту бумагу куда-то в доступное место положил. То есть, ну, я, конечно, понимаю, что все люди имеют свои недоставки, но как-то это уж совсем, совсем просто. Это вот как из разряда писать на себя заявление, нет?

Дмитрий Колодезев 7:04
Ну, вот мне кажется, что до тех пор, пока мы не сталкиваемся с бытовыми мелочами, у нас какой-то фар распространяется, типа, это великая организация, значит, все, кто её создали, великие. Вот, а в общем, ну, не обязательно.

Павел Петраченко 7:23
Ну, интеллект, он такой очень спектральный, это же не единая циферка. Ты можешь быть в чём-то гениален, а в чём-то идиотом-идиотом, да.

Валентин Малых 7:32
Вернул и правду. В общем, по сути, обсуждать не будем, и так всё понятно, да? Ну да, всё прекрасно. Следующая новость достаточно проста и понятна. Значит, Microsoft, Google, XEI Собираются давать правительству США, видимо, включая не только само правительство, но и всякую оборонку и всякие. Разведочное агентство и всякое вот такое, разведывательное, потом собираются давать доступ к своим моделям до их официального выхода, как тут вежливо написано, для проверок безопасности. На мой взгляд, здесь всё прозрачно. Есть люди, которые играют по правилам, и есть люди, которые не хотят играть по правилам. В США в данном случае, то есть у нас есть Anthropic, который пытается всячески увильнуть, а есть люди, которые просто играют так, как им говорят, и Илон Маск здесь, мне кажется, вообще номер один. Я между XEI конечно, от Илона Маска, потому что они просто взяли и... Ну, сказали, что используйте как хотите, мы вам всё даём и даже не хотим ничего про это знать. А у нас ещё будет сегодня новость на эту тему, но чуть позже.

Павел Петраченко 8:54
У меня тут очень короткая реплика, которая там как бы... Понятное очень желание со стороны правительства. Это ни разу никому не поможет, в том плане, что то, что мы сейчас имеем в современных больших языках моделей, это слишком бесконечно многогранный кристалл, чтобы надеяться на то, что если мы говорим именно про секурь и чекс, что на данном этапе нашего развития. Ну, там, по крайней мере, первые лет мы сделаем достаточно хороший тест на безопасность, не ограничивая при этом эту штуку так, что вот всё замуровали демоны, а никто не будет ограничивать, это слишком дорого. Я не знаю, понятно ли я высказался.

Дмитрий Колодезев 9:39
Слушай, ну, во-первых, тут же такая история, что параллельно с этой новостью была ещё одна новость, что американское правительство, которому внезапно эти... Вендоры вдруг решили дать доступ для осмотра своей модельки. Оно сказало, что ребята, давайте-ка мы будем защищать американский рынок и чтобы всякие тут левые неамериканские модели не ходили. Вот, то есть это разрешительный доступ на рынок. Плюс у них сейчас рассматривается законопроект о борьбе с дистилляцией моделей, где вражеские модели специально ограничивают, а за незаконную дистилляцию накладываются санкции, как за торговлей с Ираном, например. Вот примерно такого же порядка. Вот, то есть я думаю, что может быть это следствие просто commoditization модели, что все они сходятся примерно к одному и тому же, и Qwen и Anthropic буквально через год будут выдавать качества настолько хорошие, что никто их особенно не различит. И вот тут станет вопрос защиты внутреннего рынка.

Павел Петраченко 10:47
Ох-ох-ох, ну я с тобой прям не согласен, Дим, по нескольким поинтам сразу же. Ну, не знаю, хотим ли мы развить, но вот единственный коммент, то есть вот первое, в чём я не верю, я не верю, что через год разница между, условно, американскими вендорами и китайскими, она соответствует. Не потому что американские вендоры будут там всё ещё сильно качественнее китайских по каким-либо тестам или benchmarks. Может быть, запросто, что именно на бичмарках, ну или на большом наборе benchmarks, действительно произойдёт сатурация, и они будут показывать примерно одинаковые результаты. Но при этом... Разница между моделями, скорее всего, останется огромной. Почему? Потому что, ну, на самом-то деле, вот есть, как бы, ну, кажется, бесконечно малое, со всем комбинаторным пространством решений и задачи всего такого пространства benchmarks, которое, конечно, оптимизирует все, но идут. Разные вендоры к этому разными дорожками, устраивая разные playgrounds для RL-тренинга с совершенно разным RL-шефом и так далее. Соответственно, если я смотрю на те, ну как бы, я вот с западными моделями по, я так же сказал, национальным причинам практически не играюсь, но я играю с китайскими моделями, и у них у всех очень разный характер. То есть ты прямо То есть, останется очень большое пространство, пока не покрытое benchmark, причём где непонятно, какое поведение является более желабельным, и в этом эти модели будут дивироваться очень сильно. Соответственно, ну, сходимости не будет.

Дмитрий Колодезев 12:36
Ну, тут знаешь, я же хотел заметить, что заметные обычному пользователю качества. То есть, тут есть какой-то предел, после которого, допустим, ты различишь качество моделей, а условный человек, который... Преобразовывает Excel с помощью модельки, не различит. То есть она достаточно хороша будет для простых бытовых задач, для которых большинство её и использует. Вот, то есть, ну вот смотри, например, та же самая GLM, допустим, да, GLM 4.7 радикально отставала от Claude по качеству кода. GLM 5.1 отстаёт по качеству кода, но с её помощью вполне можно писать код.

Павел Петраченко 13:21
Но вопрос, какой код она тебе напишет, какие архитектурные паттерны она будет использовать, какие алгоритмические решения она предпочтёт. И это могут быть очень разные. То есть у тебя, допустим, и GLM 5.1, и какой-нибудь там, не знаю, там, Qwen 3.6 Plus, там, не знаю, в состоянии, например, написать там Java Parser, но это будут очень разные Java Parser. И ты, возможно, ты хочешь выбирать. Ну, есть более простой, как бы, пример. У меня вот есть знакомая, которая в какой-то момент решила заменить своего психотерапевта Ишкикой. И у неё, как бы, была долгая история, как бы, общения с Gemini. Потом эта история как бы каким-то образом у неё потерялась, и, соответственно, потерялась личность этого Gemini. Ей стало обидно, она такая, ну попробуй, какая DeepSeek. Через две недели она сказала, всё, я больше не могу, я возвращаюсь к человеческому психотерапевту, DeepSeek погружает меня в глубокую депрессию. Казалось бы.

Дмитрий Колодезев 14:23
Ну да, ну да, да, да, это, пожалуй, момент такой.

Павел Петраченко 14:30
Ну и соответственно, из этого как бы на самом деле. Следует как бы две вещи, что будет очень сильная сегментация по личным предпочтениям. Ну, типа, кому-то нравится такой стиль модели, кому-то такой, которая, ну, пока плохо бенчмаркается, типа, в лучший хуже. И, честно говоря, я не очень верю в легальные ограничения в стиле. А давайте вы будете пользоваться именно нашими православными моделями. То есть, да-да. Ну, опять же, я ничего не понимаю в американском обществе, но мне сложно предположить, что вот как в российском обществе мы можем зарегулировать законом ИИ, ИИ, чтобы, например, мы не использовали Opus 4.7. Крайне сложно.

Дмитрий Колодезев 15:11
Мы — да, но как только ты пойдёшь подаваться в реестр программного обеспечения, за которое дают налоговую скидку при покупке, например, в реестр российского программного обеспечения, тут этот вопрос возникнет прямо, то есть как компонент более сложных решений, а просто деньгами промотивирует, да. Но такое будет, конечно.

Валентин Малых 15:34
Ну вот я согласен с Димой в том плане, что на мой взгляд, вот этот вот security check, то есть проверки на безопасность, это скорее предлог. Ну, это моё мнение такое, что это предлог, нежели финальная цель. Это способ, соответственно, взять те модели, которые реально кошерные, иду да простит от меня. Соответственно, люди, которые употребляют это слово правильно, так вот. Те, которые правильные модели от неправильных, в том числе китайских. Но тут я на самом деле, когда Дима говорил, хотел вспомнить ещё одну новость. Я, к сожалению, её не нашёл. Я вроде её брал, но не нашёл. Про Илона Маска, который на голубом глазу признался, что да, он тоже дистиллировал. То есть, как бы, у нас получается, что дистиллировать некоторым всё-таки можно или как? Вот здесь начинаются очень сложные политические вопросы. Да, то есть, как бы, с одной стороны, хочется всё запретить, а с другой стороны, как бы, всё запретить не совсем хорошо, потому что уважаемые люди получаются как-то выброшены из этого праздника жизни. Поэтому я считаю, что вот этот законопроект сам по себе, он про то, что кто выказывает лояльность к властям, тот, соответственно, получит преференциальный доступ к госзакупкам, банально, да. А кто не выказывает, ну, тот, соответственно, получит какие-то рестрикции, вот как, соответственно, как Anthropic в наше время.

Дмитрий Колодезев 17:00
Слушай, ну я ещё наброшу на вентилятор. А помнишь статью про любителей лисов? Нет? Там история была какая? Там был мастер и студент, вот эта модель, когда одна нейронка учила другую нейронку. И мастера учили любить сов, предпочитать их. Вот, а студенту он генерировал последовательность текстов никак с совами не связанных, вообще случайный набор чисел буквально. Вот, и после того, как студента на них дотюнили, он тоже стал любить сов. Вот, то есть, грубо говоря, сегодня ты танцуешь джаз, а завтра родину продашь. Это почти математический факт. Поэтому, как бы, ну что-то с этим тоже надо сделать.

Павел Петраченко 17:49
Ну, слушайте, ребята, ну как бы берёте, тут как бы, ну берёте, как бы, что в реальности происходит вот сейчас направо и налево? Кто-нибудь берёт? Чужую модельку, да там дистиллирует с неё что-то своё, либо просто берёт чужую модельку, потом эта моделька. Ну, например, уезжает куда-нибудь в Москву на fine-tuning. После этого, когда ей показывают документы, до которых она фориентюдилась, она в ужасе начинает галлюцинировать, там, генерировать вопросики и прочее. Ну то есть, ну да, сдестилировали мы, но как бы мы же потом по ней пройдёмся.

Дмитрий Колодезев 18:31
Про банком. Ну вот, нас ждёт интересное будущее, я хочу заметить.

Валентин Малых 18:37
Ну, ты так философски, да, подытожил. В целом, я согласен, что... Вот это вот серьезное будущее нас ждет, потому что мы же уже вспоминали про вот этот рассказ «Меня зовут Джо». На каком-то из подкастов это как раз оно. Да, то есть, как делать так, чтобы модель была зафайн-тюнена не только по конкретному бенчмарку, а вообще, это некоторый открытый вопрос, и мне кажется, что на него сейчас будут усиленно искать ответ, причём по разными, по разные стороны от всех возможных океанов, если вы понимаете о чём я.

Дмитрий Колодезев 19:14
В общем, вся научная фантастика, которая чёрная научная фантастика, она про то, что кто-то нашёл способ так fine-tunить людей, понимаешь? То есть, людей пытаются fine-tunить таким образом много столетий, и получается фигово, не так уж и плохо.

Павел Петраченко 19:35
Ну да, с чем сравнивать? Давайте посмотрим на тот же самый дипсик. То есть это банальная история из жизни. Я довольно много смотрю на вывод дипсика, и во многих его выводах, во очень существенных кусочках его поведения, мы можем видеть, что скорее всего это такая. Ну, какая-то там дистилляция, либо обучение с учителем с американских моделей. Но если ты вдруг начинаешь, например, говорить с ним, а давайте развернём аналог Starlink, а как бы нам это сделать? Он как бы очень быстро начинает тебе очень патриотично говорить. Что нужно использовать современные, хорошие, китайские радиопередатчики Long March, и это дорога в будущее. А если ты перед этим ещё немножко играл с ним психотерапевта, то он ещё тебе добавит выбирай жизнь, а не смерть. Запускайся Long March То есть это означает, что в реальности, поверх американской пропаганды, на него не так плохо наложили китайскую. Ну вот так, по многих аспектах.

Валентин Малых 20:48
Слушай, это неожиданно. У тебя интересный круг, как сказать, круг тех тем, которые ты затрагиваешь с этой моделью. И мне кажется, что это в целом действительно интересное наблюдение, и важно такой опыт и нашим разработчикам перенять, потому что Обработать напильником, особенно в условиях регулирования, которое сейчас, ну мы опять же на прошлом подкасте немножко обсуждали, вот в условиях такого регулирования надвигающегося всё равно это будет нужно, видимо, нужно будет всем. Как-то так. Тут хорошая статья от Anthropic. Что они сделали агентов для финансовых сервисов, то есть они сделали, ну, по факту, скиллы для Claude, который умеет работать с по большому счету вашим кошельком. С одной стороны, вроде бы это даже неплохо. Тук модель может посмотреть, как бы, какие у тебя доходы, какие у тебя расходы, и подсказать, что ты там очень много тратишь, допустим, своих денег на пельмени. Да, срочно надо сократить затраты на пельмени и как начать жить, есть какую-то более легкую еду. Но с другой стороны. У меня есть некоторые сомнения на тему того, насколько это насколько это хорошо вообще работает. Да, тут понятно, что я специально утрирую, тут более сложные есть вещи, типа там KYC, то есть Know Your Customer, это для уже работы с финансами у каких-то. Ну, я не знаю, какие-то фирмы, наверное, да, корпорации слишком громко. Но тем не менее, получается, что надо добавить, дать доступ к финансовым данным штуке, которая ещё недавно там не могла просто 20 долларов заработать. В общем, посмотрим. Я лично настроен на то, чтобы посмотреть, как люди будут добавить эти доступы, что у них получится.

Дмитрий Колодезев 22:55
Слушай, но это же не про частные финансы, это как раз про корпоративные финансы, то есть это. По подаче декларации, планирования и так далее. Вот, то есть это именно про необязательный «энтерпрайз», но это про фирмы. Вот, а ещё. В этот же день буквально или там днём раньше или днём позже, Perplexity открыла свой специальный типа «финансовый калькулятор» или как-то там он их не называется. То есть тоже выкатила свой сервис для финансов. То есть мне кажется, что просто пришло время спускаться с гор и входить в советы директоров LLM, которые они, в общем-то.

Павел Петраченко 23:41
Ну нет, нет, нет, нет, нет, демо, дерьмо. Я помню свой СВО «Бенч», и я пока бы не в совет директоров какой-нибудь корпорации ЛЛМКу всё-таки не садил. А вот как бы в качестве личного бухгалтера, хоть завтра.

Дмитрий Колодезев 23:57
На самом деле, у меня же очень много оцифрованных данных, то есть мои записи разговоров, мои какие-то планировки, что-то ещё там. И вообще-то говоря, те из них, которые не покрыты NDA, Claude я скармливал. Толку от него примерно столько же, сколько от среднего бизнес-консультанта, в том смысле, что он сыпет теми же самыми шаблонами в тех же самых ситуациях, знаешь, как в смысле.

Павел Петраченко 24:25
Погоди, а что ты от него хочешь? Ты, наверное, от него хочешь работать среднего бизнес-консультанта?

Дмитрий Колодезев 24:29
То и получается. Да, да, да, да. Я к тому, что в принципе я знаю людей на достаточно серьезных должностях, которые ничего больше и не делают. Просто они делают это с умным видом, поэтому всё так. Вот такие дела.

Валентин Малых 24:52
Тут совершенно прекрасное произошло. Значит, Grok дали доступ к криптокошельку. Некий злоумышленник, соответственно, с помощью морзянки передал сигнал о том, что надо перевести деньги на безопасный счет, и Grok это выполнил. То есть, вот лично меня сочетание этой новости и предыдущей новости. Оно, ну, скажем так, несколько настораживает. Понятно, что Грок, пожалуй, самый слабый из токовых моделей, в том смысле, что он действительно не особо хорошо умеет что-либо, зато хорошо умеет пиариться, но тем не менее, это же всё-таки, ну, не так, чтобы прям далеко, да, то есть, неужели Клод настолько умнее, что ему можно доверить управление своим кошельком?

Павел Петраченко 25:43
Валь, смотря, а ты живым людям готов доверять управление своим кошельком? В принципе, живым людям. Конечно, нет. Ну окей, тогда и модели тоже нет. В принципе, разница-то. У нас год назад была история, как девушку-рекрутера. Мошенники раскрутили на четыре с половиной миллиона рублей, и она была в шаге от того, чтобы начать, как бы, хуаверские деньги им отдавать. Так что не вижу разницы между Гроком и девушкой-рекрутершей в этом плане.

Дмитрий Колодезев 26:15
Или там бухгалтер. Слушай, ну это настало время офигенных совершенно историй, чего уж там. Вот, а что тут на самом деле интересно, что у человека, который... Это всё сделал, он не очень понимал, что он даёт доступ к кошельку. Вот в чём дело. То есть там... X аккаунт с банкиром коммуницирует, и автоматически вам заводится кошелёк. И взлом был сделан следующим образом. азбукой Морзе было отправлено приглашение, типа в банкер, и его агент принял. Таким образом, он автоматически подключился к сервису кошельков, после чего ему сказали, а теперь бабло передаём. Да, иначе мы убьём твою жену. Нет, даже не. Даже не так, например, просто сымитировано сообщение, которое агент передает в этот самый. Затем Грок его перевел с азбуки Морзе на английский, и всё дальше полетело. Всем восприняем как прибыль, а как да. Вот, то есть, это история про то, что как таковой закрытый контур не был обеспечен, но пользователь не думал, что он даёт доступ к кошельку. Вот, то есть, та самая история про мелкий шрифт, на который люди наступают. То есть, ну просто нашёл, наступила эпоха, и я имел мелкий шрифт. То есть, ты такой, допустим, ставишь галочку в согласии на доставке и одновременно даёшь доступ к кошельку их агенту.

Валентин Малых 27:49
Ну, фактически, да. Тут основная проблема в том, что у нас агенты сейчас так или иначе получают доступ к кошельку у очень многих людей. Да, не у всех людей такая параноя, как у меня, да, чтобы ограничивать доступ к своему кошельку вообще для всех. Поэтому они вполне могут разрешать в отдельных случаях использовать свои деньги для агента, а как известно, когда только увяз, все птички пропасть. Поэтому здесь важно только начать, а дальше такие истории, они, в общем, станут рутиной, и они перестанут быть просто новостью. Да, это будет происходить там.

Павел Петраченко 28:26
На дню по-люжний раз. И при этом всё равно люди продолжат это делать, точно так же, как было, когда появились банковские карточки.

Дмитрий Колодезев 28:35
Более того, если ты ходишь с пачкой наличных по улице, то на тебя могут напасть и отобрать эти деньги. Люди так делают. Испокон веков много столетий люди отбирают деньги у других людей на улице. Вот и ничего, как бы, мы живём с этим.

Валентин Малых 28:54
Как там было у царя Соломона, и всё проходит, и это пройдёт. Да, вот пройдёт, видимо, это тоже, в том смысле, что мы как-то приспособимся к тому, что агенты будут иметь доступ к нашему кошельку. Но, как всегда, будьте осторожны, то есть агенты будут иметь всё больше и больше власти над вашей жизнью. Надо как-то пока поостеречься, пока не будут выработаны правила какой-то гигиены элементарной. Ладно.

Павел Петраченко 29:20
Понимаешь, как бы тут есть такая банальная проблема. Пока ты остерегаешься, твои враги качаются.

Валентин Малых 29:31
Ну, я бы тут разделил. Есть на самом деле две части. Да, одна часть про то, что мы как общество, да, должны попробовать, то есть выделить какое-то количество людей, которые готовы рискнуть. А как индивид, я, пожалуй, просто посмотрю на чужое в этом данном аспекте.

Павел Петраченко 29:50
В аспекте доступа к кошельку, наверное, рискуешь не очень многим, не давая доступа к своему кошельку. Ну, может, там несколько процентов затрат не соптимизируешь пока что. Хотя не факт. Может быть, такой AI-агент может быть, тебя бы смог спасти от ситуации, когда тебе кто-нибудь представился агентом ФСБ. И пытается тебя растрясти на твоё бабло, а твои человеческие guardrails уже не работают. То есть можно и на такую ситуацию представить. Но как бы если мы говорим про истории, там более корпоративные, более про рынок труда, то как бы ситуация становится немножко другой. Вот у меня один коллега сказал примерно следующее. Кажется, наше руководство поступает не очень правильно. Наверное, правильной стратегией было бы на данный момент, как бы, несмотря на приход AI, оставить все проекты как есть, чтобы люди делали всё, что они делают сейчас. Ничего не менять, выделить там, не знаю, 5 или 10% людей в компании, которые будут осваивать AI. И вот через год, когда вот, или там через два, когда мы поймём, как это правильно использовать в корпоративной среде, только тогда начинать как бы перетасовывать проект. Ну и чтобы остальные люди вели себя нормально, не нарушали корпоративные правила и всё такое, мы пообещаем, что мы никого не уволим, позаботимся о рабочих местах и так далее. Я ему говорю, товарищ, ну вот, а ты бы в это поверил? Не стал ли ты? Ты бы стал следовать регуляциям, которые тебе приходят, понимая, что вот 10 процентов. На данный момент очень быстро увеличивает свою производительность и свой набор знаний. Ты бы продолжил, я не знаю, писать ту же самую B2B-систему на Spring руками, понимая это, и кажется, что нет. Ну то есть, грубо говоря, общее благо возможно и говорит о том, что нам нужны регуляции, нам нужно постепенно и так далее. Но благо каждой отдельной индивидуальности оно в том, что как можно скорее и как можно эффективнее там начать как бы получать из этого прибыль в той или иной форме. Ну и там в зависимости от индивидуальности ты готов идти на те или иные риски. Там, например, дать свой кошелёк.

Валентин Малых 32:07
Ну что я тебе могу сказать? Я ведь готов.

Дмитрий Колодезев 32:10
Слушай, Варя, вот я просто тоже наброшу, у меня довольно много знакомых. У которых свои бизнесы и такого наплевательства к личной безопасности я нигде не видел. То есть, когда твой личный ключ налоговый в распоряжении всех твоих сотрудников, когда твоим фоксимиле ставят твоя секретарша и так далее, они берут на себя этот риск просто для. Снижение трения. Они вынуждены это сделать, потому что иначе ничего не провернется. Вот другое дело, как они решают вопросы, когда кто-нибудь объединит эти инструменты. Ну, это отдельная история.

Валентин Малых 32:51
Ну, наверное, ты прав, что это отдельная история насчёт абьюза. У меня ощущение, может, я не прав, да, что... Действительно, есть большая и, как сказать, большой. Кусок вещей, которые нельзя сделать без того, чтобы просто слепо довериться чему-то, в том числе и агента. И я думаю, что правильно это сделать в какой-то момент, когда есть какая-то выработанная практика. Например, вот возьмём OpenCluB, про который мы, а, как он сейчас, да? OpenCluB, который китайцы-то очень любят. Так вот, этот OpenCluB, соответственно. Обладает прям кучей уязвимостей, там буквально дыра на дыре. И китайцы его везде сейчас ныряют, и на мой взгляд делают это весьма правильно, потому что они как раз проходят этот период трения. Но я лично, как некий индивидуум, да, я хочу посмотреть, когда выработаются какие-то правила, все набьют каких-то шишек и уже в спокойном режиме туда заходить. Вот я не вижу, что я теряю, да, без того, чтобы всё сломать, как ну и периодически видел.

Дмитрий Колодезев 34:09
Ну, честно говоря, давно уже нет. Ага, ну вот, любой человек, который ведёт машину по улице, он на самом деле подвергает себя такому риску из-за пьяных, укуренных, идиотов, не выспавшихся, не знающих правила дорожного движения, купивших права вчера и так далее. Вот, ничего, то есть это самый быстрый способ передвигаться пока.

Павел Петраченко 34:30
А ну, мне кажется, Валентин говорит немножко о другом. Он говорит примерно о следующем. Ну, как я понимаю, что я нахожусь, ну, как бы я бы это сказал, я нахожусь в такой ситуации, когда я могу позволить себе. Прежде всего, не бежать за этим паровозом среди всех, там внутри этих первых самоубийц, потому что у меня есть достаточно большой резерв. Там, то есть я там не китаец, который боится, что его там завтра уволят из-за прихода ИИ, или там не ванмен-компани, который там изо всех сил в том же самом Шэньчжэне пытается, там, не знаю, там маркетингом заниматься или агентство недвижимости строить для того, чтобы у него там, не знаю, детей можно было в детский садик платное. У Валентина нет таких стимулов, поэтому он, как бы, ну, и меньше готов принимать на себя эти риски. Породуемся.

Валентин Малых 35:23
Следующая новость, которую хотел предложить к разбору, это на самом деле поделка. Честно скажу, это именно поделка, но эта поделка показывает очень перспективную историю. На самом деле, в чём здесь, в чём вещь? Двое студентов, я забыл из какого вуза, ну, там, наверное, написано. Они сделали следующее. Они взяли микро GPT, именно сам по себе код, да, то есть вот то, что они... То, что было написано Карпатом и с другими контримуторами в этот проект, и переимплементировали вот этот код на Verilog, ну или на каком-то аналоге, RTL, это не так важно. Соответственно, идея в том, что они просто сделали Имплементацию уже конкретной модели, которую можно залить на плату, причём какую-то очень дешёвую, Cyclone V. Это очень простая плата, которую дают студентам на то, чтобы они с ней поигрались, её не жалко. И соответственно. Они сделали то, что просто сделали прошивку и залили, и у них это даже заработало. Здесь, насколько я вижу, нет никаких исследований насчёт того, насколько это быстро и хорошо работает, но мы просто уже обсуждали, что... Может быть, будущее, потому что у нас. Можно сделать железку, которую просто перепрошивать, а весь вокруг окружающий сложный софт, он вообще говоря, нафиг не нужен. Да, все эти бесконечные прослойки, типа, куда, они достаточно универсальны, но они в узком, конкретном кейсе, может быть, вообще не нужны. Поэтому, на мой взгляд, очень интересно, что Будущее можно сделать практически своими руками. То есть нам достаточно просто небольшой платы, немножко упорства и желания написать что-то на экзотичном языке программирования, чтобы уже заработала технология, которая распространится там через несколько лет.

Павел Петраченко 37:40
Две большие проблемы. Ну, то есть, есть набор задач, которые мы назовём, что мы хотим относительно маленькую нейроночку положить в карте. В этой ситуации, переложив её на FPGA, ты можешь получить хорошее удешевление, хорошее ускорение, и это там. Абсолютно валидный бизнес-юз-кейс, который, как бы, ну, я уверен, что делают уже в том числе и серийно. Ну, по крайней мере, если бы у меня стояла такая задача, как бы, ну, например, если бы я занимался там, не знаю, там. Ну, например, вот как бы полярникам нужно в Арктике доставлять пищу. Для этого нужны дроны. Ну вот, чтобы дрон хорошо видел полярника, я бы, возможно, попытался бы какую-нибудь маленькую компьютер-вижн-модельку положить на FPGA. И кажется, что самых больших современных FPGA-шек на это хватит. Но как только ты захочешь положить, ну хотя бы Ламу 8B. Ситуация станет совсем другой, и на одну влашку она у тебя тупо не влезет. А если ты возьмёшь этих FPGA-шечек десять? То проблема будет в коммуникации между этими FPGA-шками. Именно поэтому, по крайней мере, насколько я вижу пока что, вот это направление не очень взлетает. Есть более перспективное направление на мемристорах. Это вот та самая известная канадская компания. А ну, как бы, там другие проблемы, которые пока что не решены. То есть я честно больше верю. Условные memristors и их развитие, чем именно в FPGA для больших языковых моделей, для маленьких нейронок без проблем, какую-нибудь YOLO. Но у memristors, у них был отличный маркетинговый блокпост, там отлично, как бы они собрали инвестиции. После этого, как бы, ты заходишь на их демо-сайт. Я, как бы, это лично делал. Создаёшь базовый вопрос, очень простенький, и ты видишь, что моделька-то ведёт себя на уровне LSTM типа под пару 2-3M, и ты понимаешь, почему это происходит, потому что проблема температурного шума для memristorов, она не решена на самом деле, пока что. Ну а для FPGA не решена проблема достаточной миниатеризации. Ну, то есть, как бы, да, я согласен, что глобально это, безусловно, какое-то будущее, но я просто говорю, что есть парочка концептуальных технологических вызовов, которым пока что человечество ещё не очень хорошо подошло.

Дмитрий Колодезев 40:20
Я думаю, что FPGA не очень удобны для того, чтобы на них делать LLM inference. То есть, по большому счету, FPGA — это ведро. LUT шестибитовых, например, да, то есть шести, по-моему, сейчас битовые в основном. И, грубо говоря, тебе приходит чиселка, ты выбираешь один из выходов. Наверное, это пока простовато, слишком простые исполнительные элементы, чтобы на них...

Павел Петраченко 40:52
Не уверен, не уверен. Опять же, есть как бы знакомая мне хорошо новосибирская компания, которая там условно пару-тройку лет назад занималась тем, что на FPGAшках делала решатель дифференциальных уравнений для того, чтобы хорошо моделировать там что-то, что происходит с PD13. Ну, вот как бы то, что я знаю, что это был success case, что они как бы поставили это нашему государству, и это оказалось качественно, условно, на пару порядков дешевле, чем это делать с помощью NVIDIA. То есть решатель Дифуров ты на FPGA можешь очень эффективно собрать.

Валентин Малых 41:33
Но тут вопрос в том, что Я полностью разделяю твой скепсис относительно больших языковых моделей, то есть маленькие языковые модели мы запихнуть можем. Но у меня впечатление, что ты вообще, наверное, в курсе о том, что сумрачный китайский гений берёт и... Consumer видеокарты перепаивают там банки памяти, доставляют до каких-то неразумных значений, и оно даже потом как-то работает. Я сам к такому опасаюсь прикасаться, честно говоря, просто из соображения того, что как бы оно не взорвалось в руках. Но тем не менее, мое такое впечатление, что... Через какое-то время поймут, как масштабировать эти карты. Может быть, просто, ну, физически масштабировать, да, но там сделали её размером с, там, не знаю, не с А4, а с там А3, да. Или вообще с по два, и может быть, хватит такого размера для того, чтобы выполнять какие-то требования, которые нужны для того, чтобы на FPGA что-то нормально завелось.

Павел Петраченко 42:41
Ты же понимаешь, что вероятность ошибки прямо пропорциональна площади кристалла, условно? Да. Ну, то есть, одна из таких существ, таких очень актуальных проблем, которые действуют буквально у компании, в которой я работаю, что мы как бы пока что не в состоянии, ну, окей, в состоянии, но даже для тех вот, как бы, карт, которые мы делаем. Процент выхода и, как следствие, цена получается сильно больше в реальности, чем нам бы хотелось. Соответственно, чтобы масштабировать площадь кристалла дальше и делать это независимыми кристаллами, ну в смысле, одним кристаллом, ну опять же, некоторое качественное усложнение технологического процесса. Возможно, мы это пройдём, либо ты делаешь это отдельными кристаллами и как бы, если скоростная оптика, ну или что-нибудь в этом духе, ну как бы, у нас придёт оптика верить.

Валентин Малых 43:36
В рамках одной карты для FPGA я вполне себе верю, потому что FPGA-то они работают на низкой частоте, насколько я помню. То есть там кажется, что нет такого вот прямо жёсткого ограничения, как в современных видеокартах, для того чтобы что там линки нужны просто как какого-то невероятного качества.

Павел Петраченко 44:00
И у тебя всё ещё, как бы, честная, если ты идёшь с FPGA, то у тебя всё ещё честная арифметика. Если у тебя честная арифметика, то ну как бы ты, конечно, получаешь выигрыш за счёт того, что у тебя Verilog, кастомный процесс и всё такое, но это выигрыш там условно не на пару порядков, как в случае с мемристорами. Соответственно, если ты слишком сильно снижаешь частоту, увеличиваешь размер как бы элементов, то ты перестанешь выигрывать у NVIDIA. Ну так вот, у тебя не специалист, но на пальцах выглядит так.

Дмитрий Колодезев 44:32
Вот тут мне кажется, что всё-таки где-то наука недосвернула туда, куда надо, потому что мы работаем на 200 Гц, если я правильно понимаю, мы конкретно люди. Вот, и однако мы парсим текст в Realty, вполне даже.

Валентин Малых 44:53
Слушай, я врать не буду, современные, в тот момент, когда я занимался FPGA, да, в будущем студентом, тогда были актуальные частоты типа 500 килогерц, типа того, да, что-то типа того было, то есть они не очень какие-то. Суперскоростные были. То есть я понимаю, что Павел имеет в виду, что оно имеет довольно много ограничений, но мне кажется, что на безрыке, как говорится, и рак рыба. И учитывая, что NVIDIA сделать аналог NVIDIA сделать довольно сложно, то сделать у нас, например, в стране FPGA кажется гораздо проще. То есть кажется, что эта задача на порядок проще, чем сделать видеокарту NVIDIA. Может, я не прав.

Павел Петраченко 45:41
Ну, типичные, вот типичные частоты сейчас от 100 до 500 МГц. Ну, сейчас я спрошу о самые быстрые, это мне кажется, это уже будут гигагерцы всё-таки. Окей, ну типа, гигагерц для FPGA сейчас считается более-менее пределом.

Валентин Малых 46:01
Ну, то есть, кажется, что чип на 500 МГц — это в целом, ну.

Павел Петраченко 46:05
Вроде бы у нас сейчас такое умеют. Но я боюсь, что это не FPGA на 500 Мегагерц. Я очень сомневаюсь, что наша страна может производить FPGA на 500 Мегагерц.

Валентин Малых 46:16
Нет, нет, соносовый нет. Я думаю, что FPGA сильно сложнее в этом плане, но уж на что-то мегагерц как-то провести смогут, я думаю. Хотя тоже следует разбираться в каждом конкретном случае. Я здесь далёк слишком от темы. Не мог пройти мимо вот этой новости. Значит, у нас то, что мы сейчас с вами делаем, то есть записываем подкаст, это обмирающий вид деятельности, как мы теперь знаем. И Podcast Index — это такие люди, которые собирают статистику по подкастам. Они, соответственно, подсчитали, что на сегодняшний день, ну вот за последние девять дней, с момента, до момента написания статьи, то есть на там, на десять дней назад, условно говоря, тридцать девять процентов новых подкастов были уже и сгенерированными. Ну и дальше тут есть различная статистика, которая говорит, что В общем-то, если совсем по-простому, то всё плохо, потому что есть компания, у которой 10 тысяч разных шоу, и где-то за два дня, два дня подчёркиваю, они сделали 900 новых шоу. То есть уровень взрывного роста можно себе представить. Я подозреваю, что Там есть какая-то точка безубыточности, то есть сколько нужно слушателей, чтобы имело смысл шоу продолжать. Но если они будут достаточно быстро резать шоу, которое не приносит денег, то они, в общем, выйдут на некоторую стабильную цифру прироста и забьют весь рынок, наш с вами подкаст просто перестанет иметь какой-то успех.

Павел Петраченко 47:57
Ну, так и будет. Я некоторое время назад начал читать книжки генерированной АИ и смог подобрать, как бы, пару авторов, которые мне вполне заходят, хотя я вижу прямо глазом, что там очень похоже на то, что процентов, ну, там, по скорости, как бы, выдачи книжек, по некоторым паттернам, очень похоже, что, ну, с какими-то guardrailsами LLM пишут книжки. Я читаю, мне нравится.

Валентин Малых 48:22
Нет, ну тут одно дело — пишут книжки, да, то есть спишут книжки, я смирился. А другое дело — подкасты, да, то есть подкасты — это генерация голоса. Тут... Тут свои отдельные истории, но тем не менее, начали с книжек. Я думаю, что всё, что плюс-минус относится сейчас к креативным индустриям, кстати, если кто не знал, программирование в России относится к креативным индустриям, оно всё будет, соответственно, поглощено и как-то так.

Дмитрий Колодезев 48:58
Слушай, но генерация подкастов по тексту статьи научной была киллер-фичей, по-моему, LM ноутбука Google года полтора назад. Я активно ей пользовался, потому что ты берёшь, сконвертируешь статью в архив в подкаст девятиминутный, там же шестиминутный, и в дороге его слушаешь перед тем, как читать. Потому что когда ты читаешь, ты уже вроде как какие-то вещи услышал. Вот, и они достаточно хорошо делали уже тогда. То есть, он был, видишь, я всё-таки, это близкий для меня неродной, но тогда мне казалось, что от тех подкастов, которые я слышу, она отличается только в лучшую сторону. Их, во всяком случае, разборчиво слышно. Ни у кого из них нет индийского акцента.

Павел Петраченко 49:43
Вот вопрос в том, что ты хочешь интересный подкаст, а ты знаешь, они смешные по-своему были. Ну ладно, отлично, всё как бы.

Валентин Малых 49:53
Ну, тут на самом деле, вот в статье дальше есть про то, что как минимум один, ну это, видимо, какой-то плохой пример, специально выбрали, но тем не менее тот подкаст, который они послушали, он был какой-то однообразный и не особо интересный. И тут даже где-то была цифра про частоту шуток в минуту. То есть они, в общем, вполне себе оцифровали само искусство говорения, да, именно создание какого-то рассказа в виде голоса. И ну что тут скажешь? Мне кажется, через какое-то время действительно отладят и рассказывать тебе сказку на ночь в виде свежей статьи с актива, оно будет совершенно прекрасно.

Дмитрий Колодезев 50:34
Слушай, ну у людей это никогда не получается, скучные и тупые подкасты, я соглашусь.

Валентин Малых 50:40
Не-не, это тут зря сейчас. На самом деле, накидываешь, потому что то, что у людей не получается, скучные подкасты получаются. Мы сейчас в одном участвуем, а я про другое, что у нас люди, они как бы обладают некоторым ограниченным временем, да. Ну, то есть у нас с тобой в сутках 24 часа, в этом никуда не деться. И количество времени не ограничено, в том смысле, что он в секунду может делать хоть десять подкастов, хоть пятьдесят, хоть тысячу. Да, и это ограничено по большому счету исключительно размером денег, которые мы вкладываем. Так что просто задавят массы.

Дмитрий Колодезев 51:19
Я думаю, что всё придёт к тому, что под каждого человека будет пять своих подкастов, которые будут слушать только он лично.

Валентин Малых 51:26
Кстати, по поводу книжек, я не помню, мы обсуждали или нет, вот про то, что Паша говорил. Есть корейский стартап, Zatu, как называется, недавно вышел на рынок США, который как раз сделал деньги на том, что они делают. Персонализированные литературы, да, персонализированные такие легкие романы, они генерируют под конкретного человека и прям неплохо зарабатывают на этом деньги. Ну, как бы так, правда, на корейском в основном, но тем не менее. Ну, боюсь, это уже не то что следующий шаг, это буквально стучиться к нам в двери. Есть такой стартап, он называется Pantallas. Если перевести из греческого, это все моря. Так вот, этот Pantallas взяли у инвесторов 140 миллионов. Долларов на то, чтобы сделать такие суда, которые будут одновременно собирать электроэнергию, ну, энергию солнца, например, да, то есть плыть по морю, собирать солнечную энергию и питать какой-то дата-центр и, вероятно, через спутник отправлять то, что они не считали, куда-то на сушу.

Дмитрий Колодезев 52:49
Слушай, ну это та же самая история, как про спутники, которые будут получать дармовую энергию Солнца на солнечной орбите. Она вообще-то, говорит, не дармовая. Вот она должна была упасть, например, на... Землю и должна была кукуруза, допустим, заколоситься под этими солнечными лучами. Вот, а тут, например, на океане будет плавать большая солнечная панель, например, да. В результате не будет плавать под ней планктон. А планктон не будет есть бентас, бентас не будет есть рыбки, и рыбок не будем есть мы. Ну, в общем-то, всё как-то очень сильно драматизирует, честно говоря.

Павел Петраченко 53:31
Ну, там условно с океаном я даже как-то, допустим, как-то могу понять, хотя как бы. Ну давайте посмотрим на площади, которые уже ушли под солнечные панели и там под ветряки. И уже достаточно много энергии в Евросоюзе. Генерируем таким образом и как-то не видно, что экология Евросоюза слишком сильно страдает. Ну, по крайней мере, пока что. Потому что это всё равно очень маленькие площади по сравнению со всем Евросоюзом. Ну, запустят они 10 кораблей таких, ну, 20 запустят. Кстати, говорят, ветряки действуют на климат.

Дмитрий Колодезев 54:05
Ну, чуть-чуть, пока чуть-чуть.

Валентин Малых 54:07
Они негативно действуют на сельхозпроизводство, насколько я помню. Они как-то там гнетают растения, вокруг них всё плохо растёт, если я правильно помню. Вот с солнечными панельями ещё очевиднее. Да, да, говори.

Павел Петраченко 54:21
Это правда, но там солнечными панелями, которые у нас на спутниках, это 20 тысяч километров от земли. Ну какой процент энергии Солнца пройдёт из-за этого мимо земли? Ну, Дима, ну, если мы посмотрим здесь, ну как бы, ну люди хотят делать электростанции на энергии волн, насколько я вижу. Отлично. Они хотят, чтобы им дали денег. Они добавляют к этому слово AI и дата-центры. Ну, вроде всё понятно.

Дмитрий Колодезев 54:47
Ну, в такой постановке, да, выглядит не страшно. Одни люди хотят отнять деньги у других.

Павел Петраченко 54:52
Ну, там вполне конкретным увлечением, но вот кому-то хочется сделать вот такую электростанцию. Это его творческая идея. Там, не знаю, у нас вот там, не знаю, ледоколы с атомной энергией доставляют, как бы, куда-то там, к Камчатке или там на Таймыр электричество. Ну, вот как бы, ну, в России, может быть, вот так будут дата-центры строить. Ну, вот эти вот так хотят, ну, почему нет?

Валентин Малых 55:15
Ну, я бы тут, кстати, ещё докинул, что у этого можно найти некое полезное свойство, потому что у нас Океан поглощает довольно много тепла. У нас тут, как известно, глобальное потепление. Для некоторых это может быть даже плюсом, что часть тепла пройдёт мимо. Ну, не тепла, а света, да, с которой серовало тепло в конечном итоге. Поэтому, на мой взгляд, здесь действительно не надо пока драматизировать. Посмотрим, что они сделают. Я думаю, что мы ещё, может быть, ни разу не услышим, что конкретно про это, но в целом сама идея, что надо выносить. Инфраструктуру куда-то в море, она уже давно на самом деле существует. Microsoft ещё лет десять назад с этим экспериментировал, если я правильно помню. китайцы активно это делают, поэтому у нас. В целом, сейчас идея того, что пойти куда-нибудь в какие-нибудь нейтральные воды, где по большому счёту нет никакого законодательства и там делать всё, что хочется, это кажется очень достаточно популярной идеей, и она будет всё равно привлекать людей.

Павел Петраченко 56:26
По сути, как бы, тут главное не в электростанции, а в том, чтобы выйти из-под юрисдикции. Всё так, да, всё так.

Дмитрий Колодезев 56:33
Ну, кстати, тут недавние политические события в Персидском заливе. Они, провышедшие из юрисдикции, довольно-таки поменяли фон, так что, может быть, тут тоже всё повлияет. То есть ты такой вышел из юрисдикции.

Павел Петраченко 56:48
Непонятно откуда. Потому что ну всё, налоги не платишь, ну мало ли какой дрон. Или даже понятно откуда. Всё, что ли, легче что ли?

Валентин Малых 56:57
Не, ну в целом да, то есть, как известно, можно выйти из резидикции, но резидикции — выйти из тебя, это ещё совсем другое. Следующая новость. Исследование выявило разрыв осведомленности об ИИ в зависимости от уровня доходов и образования. Звучит сложно, но в целом штука достаточно простая. Опросили 10 тысяч американцев, и потом данные почему-то... Исследовали люди из Гонконга. Я уж не знаю, как так получилось, но в общем, сочетание такое. И они выявили, что есть довольно серьёзная корреляция с тем, что с использованием ИИ, и вообще с пониманием, что такое ИИ, и с уровнем образования, даже не с уровнем доходов, а именно образования. И получается, что чем более человек образован, тем больше он склонен использовать её в своей деятельности, что, в общем, кажется достаточно очевидным. Но это, как кажется, коррелирует ещё с тем, что вот сегодня Паша уже поднимал этот вопрос на тему того, что Более образованные люди используют ИИ в своих профессиях, например, будущие программистами. И у нас, соответственно, получается, что теперь код пишет больше ИИ, чем... Программист отдельный вопрос там у нас как это интерпретировать, но другое, что если мы говорим про работу, например, очень важную и нужную, такую как сантехник, то за сантехникой и пока сделать ничего не может. Ну, по крайней мере, улыбки. Роботы, может, и смогут когда-то, но пока не это самое. Так ничего не работает. И в этом смысле... Интересно понять, какое из этого есть следствие. Да, то есть одно из очевидных следствий, может быть, и неправильное, что ИИ более плотно будет входить в жизнь именно высоких по доходам слоёв, а все остальные могут даже и не заметить.

Павел Петраченко 58:50
Но до какого-то момента так и будет. Момент достаточно скоро. Посмотрим, как бы. Я думаю, все видели, ну, смотрите, мы все видели, наверное, китайское шоу на китайский Новый год с роботами. Мы все видим примерные цены на эти роботы, которые сейчас, как бы, вроде бы китайцы обещают в 10 килобаксов укладываться. А соответственно, зададимся вопросом, через сколько лет у нас будет робот-сантехника? Я думаю, что в пределах 3-5 мы получим что-нибудь там более-менее работающее.

Валентин Малых 59:23
Я даже не сомневаюсь в том, а будет ли это экономически выгодно?

Павел Петраченко 59:26
Кажется, что не особенно. Валь, представь себе, у тебя есть платформочка, вот так, стоимостью в 10 тысяч долларов, допустим. Которую, ну там, как-то нужно заряжать, допустим, раз там в три часа ей нужно поесть полчасика от быстрой зарядки какой-нибудь, которая, ну, в состоянии исполнять все человеческие действия. Ты, наверное, платишь, как бы, ещё за её там токены и Vision сколько-то, ну там, при текущих, там, наверное, может быть, даже токены дешевле не станут, это плохой случай для этих платформ, я так подозреваю, что станут сильно. Ну, допустим, ты плачешь это условно 10 тысяч в месяц, можно поверить, да, такую или даже давайте 20. Соответственно, вопрос, за какой срок у тебя окупится? Чернорабочий, которого ты покупаешь за 10 тысяч долларов, это по нынешнему курсу 800 тысяч рублей ты платишь за раба изначально, потом, чтобы он у тебя жил, платишь, ну там, сколько, 25-30 тысяч рублей в месяц. Всё.

Дмитрий Колодезев 1:00:33
Мне кажется, сантехники сейчас больше получают. Там же ещё, видишь, вот такой расчёт окупится ли сантехник. Он предполагает, что работа сантехника никуда не делась. Но работа сантехника, на самом деле, она состояла из трёх частей. Первое — это доступ к разного рода шаровым кранам и прокладочкам, которые у него есть, и всем остальным надо где-то добывать. Второе — это знание того, что конкретно в какую сторону этот кран крутить. И третье — это непосредственно руки. И вот первые две на самом деле перекрываются прямо легко. С текущими умными и так далее, и тому подобное. А третье — это роботы. И если мы посмотрим на это так, что текущего сантехника надо будет заменять не полностью, а только на треть, вот, и это будет переиспользуемая технология. То есть заменяя сантехника, мы параллельно заменяем, допустим, дворника и, может быть, еще и охранника, например.

Павел Петраченко 1:01:33
Дима, а почему ты хочешь только натреть за месяц?

Дмитрий Колодезев 1:01:37
А потому что две трети уже заменились, то есть на самом деле огромное количество домашних мастеров, вместо того, чтобы обращаться в какой-нибудь сервис, сейчас открывают YouTube и смотрят там видосик, как сделать. И они прозвище. Нет, нет, нет, у меня многие, допустим, что-то делают ремонт сами, а в том, что, допустим, в компьютере, ноутбуке, они находят в видосе, как это разобрать? Да-да-да, ты смотришь и делаешь сам.

Павел Петраченко 1:02:19
Ну, у тебя как бы и треть, ты потом же сам крутишь, то есть ты в принципе сам тогда заменяешься бы.

Дмитрий Колодезев 1:02:23
Да, и теперь я говорю, что в принципе сам по себе сантехник теряет рынок и так, не только роботом. Валентин Малых и так его отжирают, видосики. Так его отжирают рынок у сантехника, даже если бы роботов не было.

Павел Петраченко 1:02:36
Видосики не очень сильно, потому что основное — это не то, что ты не можешь научиться, обычно то, что ты не хочешь и готов платить за это деньги. То есть я как бы иногда пользуюсь видосиками, но только когда у меня есть настроение и время, а если нет, то я закажу.

Дмитрий Колодезев 1:02:48
А вот всякие, всякого рода автосервисы используют их постоянно.

Павел Петраченко 1:02:52
Опять же, возможно, но тем не менее, как бы, всё ещё без меня я всё-таки привяжусь. Откуда вот это заменить на треть или на две трети, а треть оставить?

Дмитрий Колодезев 1:03:06
А нет, а треть не оставь. Треть уже заменена, мы просто не заметили.

Павел Петраченко 1:03:13
Ну, просто почему останется две трети хоста?

Дмитрий Колодезев 1:03:16
Ну да, да, да, да. То есть, всякую прокладку ты можешь купить с доставкой сегодня, если ты утром её заказал на каком-нибудь, условно, Amazon или что-нибудь ещё. А как поменять эту информацию уже есть в интернетах, в видосиках. Да, осталось только руки, а руки манипуляторы стремительно улучшаются. И поскольку тебе не надо владеть сантехником в домашнем хозяйстве, так же, как мы вообще-то обычно дома не езжем в семье сантехника, чтобы он нам раз в год батарею покрутил, то почему бы и нет?

Павел Петраченко 1:03:48
Ты покупаешь индивидуального слугу, который делает тебе всё домашнее хозяйство. По сути, за 10 тысяч долларов я бы купил.

Дмитрий Колодезев 1:03:57
Я бы в контору купил одного, но есть чем заняться. Ну, пока ты сам вместо этого самого, вместо робота-предшества. Слушай, малый бизнес — это такая история, да. Ты вместо робота, да, очень не хватает, кстати, кроме шуток.

Валентин Малых 1:04:13
Здесь очень просят один анекдот про стартап, но я, пожалуй, промолчу, если я и все позвольте. Никого не хотел обидеть. Малайзия стремительно становится хабом и яйцод благодаря доступности чиповидии и лояльности клиентам из Кита. По-моему, здесь всеочередная доголовка, но если в двух словах, смысл в том, что Малайзия — это страна, от которой в своё время был отделён Сингапур. Если кто-то не в курсе, то есть она буквально к Сингапуру через пролив подходит. И в Малайдии довольно много китайцев, именно которые там живут, не то что они приехали, а которые там живут поколениями. Там есть какое-то даже специальное название, я его воспроизведу. Но суть в том, что они там составляют до что-то типа четверти населения, может быть, даже третьих. И они, соответственно, вот эти вот малайские китайцы, они прекрасно малайские. Они прекрасно. Готовы с китайцами из Китая работать, при том, что Малайзия сама не под санкциями. Соответственно, они могут закупить железки и могут построить датацентры, которые будут обслуживать китайские интересы. Так что в целом, на мой взгляд, Малайзия совершенно в хороших сейчас условиях. Тут сложно сказать, насколько этот луко продержится, но условия интересны.

Павел Петраченко 1:05:32
Малайзия, может быть, и хочет, а китайские компании им как бы не разрешено, так чистого практически.

Валентин Малых 1:05:39
Но это отдельный вопрос, потому что каким-то, я так понимаю, разрешено, потому что периодически про Малайзию какие-то новости возникают, что что-то там китайцы из Малайзии такое обучили, от этого всем грустно. Так что я думаю, что каким-то не разрешено, а каким-то может быть и даже окей. Да, то есть, когда нужно считаться, а, соответственно, Малайзии так сделать проще, может быть, оно так и устроено.

Павел Петраченко 1:06:05
Не, ну всё так, наверное, ты хочешь там тренировать в Малайзии, ну потому что там всё-таки, как бы, есть такое неосязаемое превосходство западных чипов для тренировки. Всё пока что ещё, хотя опять же это очень быстро сокращается, но инференс ты уже точно хочешь делать у себя в родном Китае на родных китайских чипах. И как бы наша коммунистическая партия очень хочет, чтобы граждане и компании делали инференс на родине. Очень сильно это стимулирует, поэтому, ну да, какой-то такой рынок, конечно, будет, но я просто не верю, что это будет массово. Слишком много денег прямо сейчас Китай вкладывает, чтобы обогнать по применению NVIDIA всю планету.

Валентин Малых 1:06:51
Нет, это тут безусловно. На самом деле, я здесь нисколько не сомневаюсь. Я здесь к тому, что ты сказал, хочу добавить две копеечки. Тут вышла новость, и в принципе, не стал включать, хотя она... Относительно релевантно про то, что у нас сейчас на Дальнем Востоке и в Сибири, у нас в смысле в России. Строит, стали строить больше дата-центров именно с прицелом на то, чтобы это всё мощности цодов продавать в Китае. Мне кажется, что это ещё менее вероятно, чем в Малайзии, да, потому что Россия под санкциями, доставить сюда оборудование сложно. Зачем сюда с каким-то, с каким-то сложностями доставлять оборудование, совершенно неясно.

Павел Петраченко 1:07:34
Мне кажется, мощность ЦОДов понадобится нашему суверенному ИИ, а продавать в Китай, конечно, уже ничего не получится.

Дмитрий Колодезев 1:07:44
Я бы ещё заметил, что ведь когда кто-то инференс за границу, он ведь данные через границу гоняет. А с этим с каждой секундой всё сложнее и сложнее. То есть, что коммунистическая партия будет хотеть, чтобы её компании гоняли трансграничные данные для инференс в Валентин.

Павел Петраченко 1:08:03
Ну, ну, будет на какое-то время закрывать на это глаза, но только до тех пор, пока как бы не почувствует, что как бы мы закрыли свои потребности. А этот момент уже достаточно близко. Причём, как бы, сколько этих NVIDIA-карт привезли в Китай и продолжают привозить, как бы.

Валентин Малых 1:08:17
Да, я согласен, но я думаю, что Малайзия, тем не менее, как какой-то, какие-то бонусы с этого всё равно поимеет. Такое мнение.

Дмитрий Колодезев 1:08:25
Слушай, но Малайзия на самом деле поимела же бонусы, когда была первая PC-гонка развития, то есть там вполне корпусировали микросхемы и производили электронику, то есть из страны, где ничего кроме обезьяны сахарного тростника не было, она вообще-то говоря стала какая-то электронная промышленность у неё уже была ещё в 90-х.

Валентин Малых 1:08:55
В смысле, они грамотно устроились? В принципе, Ася большая, потому что не только читай.

Дмитрий Колодезев 1:09:03
Правильно, Паша говорит, что inference нужен не только Китаю. То есть, например, соседние рядом какие-нибудь Филиппины навряд ли построят у себя такую прямо большую IT, да. Вот, а inference тоже будет нужен.

Павел Петраченко 1:09:19
Другой вопрос, а идти ли это? Можешь поставить дата-центр?

Валентин Малых 1:09:24
Ну, это философский вопрос, действительно философский. Как бы хочется, можно считать, не хочется, можно не считать. Я предлагаю в качестве последней новости совершенно прекрасную новость о том, что в белом доме в США тоже задумались о том, что неплохо бы скрепы иметь в моделях, да, и про это уже Дима в самом начале говорил. История здесь в том, что в США тоже подумали о том, чтобы удостовериться, что никакой, значит, китайской пропаганды никакая. Модель не содержит. Ну, как мы понимаем, если можно дистиллировать модели американские, значит, можно дистиллировать и китайские. Да, то есть тот же самый ИИ вполне себе мог и DeepSeek дистиллировать, и не дай бог он туда на дистиллировал какой-нибудь манифест. Коммунистической партии. Вот и соответственно, теперь вот они тоже пришли к такому пониманию. Ну, скажем так, ещё не пришли, пока только разговоры ходят. Ну, посмотрим. Я бы поставил на то, что они тоже к этому придут в каком-то виде. Я не очень верю во все этот контроль.

Павел Петраченко 1:10:34
И в условную пропаганду. Просто по той, ну. Ты, конечно, можешь заложить какую-то степень политической пропаганды в модельку. Но по построению все эти модели. Учатся, ну по сути, на максимально доступном объеме материала, человеческой истории и человеческого авторства. Соответственно, это вот такой огромный кристалл, буквально с оттисками человеческих душ. Который ты можешь повернуть, ну, по сути, там. Ну, ты не очень контролируешь, но ты можешь повернуть по очень-очень большим, бесконечно большим наборам грани и условно можешь получить там прижим. как При достаточной аккуратности можно, например, попробовать получить психотип Муссолини или, не знаю, Гагарина кругом. И там.

Дмитрий Колодезев 1:11:23
Немножко попробовать, немножечко совсем по-файтюнить. На самом деле, ещё интересно то, что инфорсится это будет, скорее всего, через списки, то есть вопросы-ответы. Типа, а чей Крым, например, там, ну, чей Тайвань, там, например, ну, то есть вот эти вот, да. И в этих местах мы их, конечно, ну, они бот, они выучат правильные ответы на вопросы. Никто не хочет так им спросить. Ну, это неинтересный вариант, да, форс. Нет.

Павел Петраченко 1:11:59
Да, вот смотрите, вот есть как бы опять же вот. Есть модели сейчас, про условный ИИ. И как бы кажется, что вот есть вот такой простой вариант инфорса, типа GigaChat отказывается разговаривать на чувствительные темы, там, я не знаю, это там рулят базовые guardrail или им просто там достаточно долго били в морду в процессе тренировки или fine-tune, что более вероятно. Но это скучный вариант, интересный вариант, который как бы ну и китайский DeepSeek и в значительно большей степени американские модели Это когда модель не отказывается с тобой разговаривать на нужные кейсы, но в процессе диалога. По маленечку меняет твой паттерн и твое поведение, чтобы ты начал думать так, как автор модели. И это сильно более интересная игра.

Дмитрий Колодезев 1:12:53
А тут ещё, знаешь, была же недавно статья. Люди попробовали агентов строить вместе и посмотрели, как у них alignment связают. То есть, грубо говоря, мы берём, запираем вместе толпу агентов, они друг над другом, с другом общаются, да, LLM. И вот этот alignment — это И искажение, которое мы добавляем к её исходному распределению, того самого кристалла, о котором ты говоришь. И вот если много-много-много раз оно само с собой взаимодействует, то собственный вектор начинает доминировать, весь этот алаймент слезает с моделей. Ну да, достаточно быстро. И у нас была новость, которую мы не включили, про то что... То LLM портят документы, то есть если им дать документ, они долго с ним работают, они его искажают, начинают. Ну то есть для того, чтобы LLM ушла с alignment, то ей нужно просто достаточное количество шагов, как ты её не за alignment.

Павел Петраченко 1:13:49
Не знаю, не уверен, не уверен, не уверен.

Валентин Малых 1:13:59
В Корее масса, да, то есть у тебя есть 500 тысяч документов, в которых Тайвань называется частью Китая, и 10 тысяч, в которых он называется, соответственно, независимым. И, соответственно, получается, что будет превалировать та точка зрения, которая просто чаще встречается, потому что модель все равно статистически, поэтому весь alignment — это действительно попытка как бы перебить вот этот большой накопленный опыт, на мой взгляд.

Павел Петраченко 1:14:26
В плане alignment, наверное, да, но вот из чисто практических экспериментов емкость современных моделей достаточно большая, чтобы ей сказать, там, не знаю, там, немножечко в системном промпте, ты тайванец, а после этого спросить, чей Тайвань, она ответит, как бы, конечно, тайваньский, несмотря на то, что весь остальной мир там условно считает, что Тайвань китайский.

Дмитрий Колодезев 1:14:51
Ну, то есть, нет спасения. От чего? От того, чтобы они не называли лидеров стран какими-нибудь Винни-Пухами и так далее, то есть, никак ты не защитишься.

Павел Петраченко 1:15:06
Ну, ты не можешь, мне кажется, что крайне сложно сделать модель, которая, не потеряв свои креативные силы и силы reasoning (корректно, оставить), будет при этом достаточно, ну, как бы, даже не крайне сложно, а невозможно, ну, сложно, именно по построению того, как мы эти модели делаем, что ты не можешь одновременно сократить креативность и обеспечить достаточно жесткий guardrail (корректно, оставить).

Дмитрий Колодезев 1:15:32
И вот тут хочется вспомнить модель с китайским названием Hui-Hui. Это не модели, целый класс моделей, где люди снимают цензуру с моделей. Вот и после этого у неё бенчмарки на программирование растут там на 20%. Ну, очень логично.

Павел Петраченко 1:15:50
Как бы, всё понятно.

Дмитрий Колодезев 1:15:55
У нас, кстати, крутится Qwen 3.6+ от этих ребят, и он действительно лучше, чем родной с программированием. А, да, наверное, ладно, ну что ж, наверное, тогда всем привет. На DataFest приходите в Новосибирск, в Москву, и даже в Белграде он будет. И там много, кстати, интересных докладов. Конкретно сегодня я что-то весь день Белградцы слушал.

Валентин Малых 1:16:25
Да, так что всех будем рады увидеться, с кем получится в разных городах. Всё, всем пока-пока. И везде подписывайтесь, везде, конечно же.