Капитанский мостик 2-12

Двенадцатый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

• Youtube
• VK Video
• Дзен
• Звук
• Аудио
• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Содержание

• 00:00:00 Начало
• 00:04:12 Хуанг уже живет в AGI
• 00:13:21 Цукерберг сам делает себе агента
• 00:21:13 Датацентры не очень вредные
• 00:25:56 ИИ без паники
• 00:30:23 Huawei Ascend 950PR
• 00:36:32 Anthropic против Пентагона
• 00:40:27 Суд признал YouTube виновным
• 00:48:15 Amazon и гуманоиды
• 00:54:09 Вышел GigaChat-3.1
• 00:56:37 ИИ и рынок труда
• 01:09:13 Сursor и программирование
• 01:14:19 Claude захватил OpenAI

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. Я веду с вами прямое включение из Марокко. Я приехал на конференцию EACL, и мы сейчас её обсудим. Но сначала обязательное напоминание про то, что пожалуйста, подавайтесь на DataFest. DataFest будет уже скоро, и чем вы больше подадите, соответственно, докладов, тем интереснее будет DataFest.

Дмитрий Колодезев 0:32
Хочется еще сказать, что я на следующей неделе буду в Белграде. Если кому-то будет неравеннее, переходите, можно будет где-нибудь позавтракать.

Валентин Малых 0:42
Отличная идея. Вот в Марокко я никого не стал, не думаю, что здесь большое комьюнити. Но тем не менее, возвращаясь к Марокко. Здесь проходит конференция по, собственно, по моей теме по обработке текстов. Она называется EACL, European Conference of European Chapter of ACL, то бишь Association for Computer Linguistics. Ну, это самая большая конференция по НЛП была, и не самая большая, самая большая в Европе, конечно. Вот и теперь должен у кого-то возникнуть вопрос, почему Европейская конференция проходит в Африке. Я чувствую, что прямо люди его хотят задать. Ответа на него у меня нет, но официально была озвучена позиция, что к Европе близко и с визами проблем нет, поэтому вот приезжайте. Типа того. Вот это касательно самой конференции. Хочется сказать по поводу Местных коллег, которых я тут повидал небольшое количество, то есть, слава богу, что они в принципе есть, да, что это не просто такая парашютная наука. Если кто-то в курсе что-то такое, на всякий случай парашютная наука — это когда мы берём там, не знаю, несколько докторов наук и высаживаем их в какой-нибудь райцентр, и они начинают там резко производить. Статьи с аффилиацией вот этого райцентрового вуза. Тут есть какие-то местные коллеги, которые делают какие-то свои исследования с арабским. Правда, надо сказать, что уровень довольно низкий, насколько я могу судить. То есть, ну прямо чувствуется, что это довольно провинциальная такая история. Ну, здорово, что в принципе есть. Я бы так, наверное, сформулирую.

Дмитрий Колодезев 2:16
Слушай, раз уж ты там прямо в эпицентре, а есть же довольно-таки продвинутые арабские модели, тот же самый Falcon, по-моему.

Валентин Малых 2:25
Falcon — это честно проспонсированная правительством Объединенных Арабских Эмиратов модель. Здесь я про него в упоминании не слышал, но люди из Арабских Эмиратов были, и у них действительно, ну, у них всё-таки уровень повыше, потому что у них там в целом, так сказать, затраты на науку побольше, да, то есть они в целом более продвинутые именно там, тем более что в Пуае находится один из действительно хороших университетов, он называется MBZUAI. МБЗ — это Мухаммед бен Заид, университет ИИ, то есть Университет искусственного интеллекта Мухаммеда Бензоеда, и они там как раз вот эту самую парашютную науку осуществили. То есть они там набрали довольно много людей, ну, европейцев и некоторое количество американцев. И сейчас большое количество русскоязычных коллег там тоже присоединилось. И они, соответственно, там настоящую парашютную науку осуществляют, действительно, в больших масштабах. Насколько это будет устойчиво, да, то есть, насколько они смогут там создать школы, я не берусь сказать, но пока вот первые несколько лет они прямо очень много сделали. Я желаю коллегам, конечно, успеха, то есть. Укоренить там как какой-то НLP на берегах Персидского залива. Вот, это так. Да, ну, Марокко всё-таки страна достаточно бедная, поэтому здесь мы Falcon ожидать не будем, но тем не менее, в качестве, ну, так сказать, как бы это выразиться, в качестве... Некоторого направления неочевидного, если хочется и съездить. Кстати, тут серфинг хороший, люди, которые пробовали, прям очень-очень хвалили. Я просто совершенно не серферный человек, меня сильно укачивает. Поэтому вот, все имеете в виду? Я решил сегодня с козырей зайти. Соответственно, Дженсен Хуанг заявил, что AGI уже достигнут. На самом деле, я просто буквально на днях обсуждал с, честно говоря, забыл уже с кем, вот эту самую историю про Да, то есть, что такое AGI и зачем он нужен, это большой на самом деле вопрос. То есть. Сильно зависит от того, как мы определяем AGI. AGI, на всякий случай, у него есть расшифровка. Да, это не просто три буквы. Эти буквы значат следующее, что это artificial general intelligence, то есть искусственный общий интеллект. Зачем такая бравиатура? Не спрашивайте, просто это вот как бы её семантика изначально. И собственно, мы на прошлом подкасте обсуждали Yann LeCun и компанию, которые сделали свой манифест о том, что вот этот ваш AGI не нужен, потому что непонятно, что это вообще в принципе такое. Я за неделю своё мнение не поменял. Я всё равно считаю, что действительно AGI, так как это совершенно неопределимая вещь. Его невозможно достичь, или наоборот, вот то, о чём, на мой взгляд, Дженсен и говорит, он уже достигнут. То есть, в каком-то смысле, искусственный интеллект уже умеет практически всё, что угодно. Да, это не одна модель, да, но только и один и тот же человек редко когда выигрывает олимпийскую медаль в стометровке и при этом на рояле играет лучше всех, правда же? Понятно, что бывают исключения, но вот чтобы человек всё умел, такого у нас не бывает. А модели почему-то мы от них требуем. Поэтому, на мой взгляд, если захотеть, то можно сказать, что AGI уже достигнут. Просто потому что что такое AGI, мы совершенно не понимаем.

Дмитрий Колодезев 5:53
Ты знаешь, опять же, никто не знает, что такое AGI, но текущие модели первого эшелона, они вполне Устраивают меня как технические собеседники. То есть, не то чтобы я, скажем, делегировал им написание текста, текст, который я выдаю за свой, я никогда не пишу с помощью, да, это для меня важно. Вот, но, например, свалить гору имеющихся материалов и обсуждать это с... Claude в терминах, слушай, давай посмотрим, нет ли каких-нибудь противоречий вот этому или, слушай, а что они здесь писали про безопасность и как ты думаешь? То есть я вполне обсуждаю его с ним как с инженером. Также, как и инженеру, я не полагаюсь ни на его суждение, ни на его способность деплоить. Впрод без ошибок. То есть, ну, в этом смысле для меня и AGI вполне достигнутся. Вот из другой беседы в команде с лучшим программистом, которого я когда-либо знал в своей жизни, он говорит, слушай, говорит, но для меня вот этот кодирующий помощник, он как тот же самый другой инженер. Только с той поправкой, что если бы я ставил задачу инженеру, я бы всегда немножко думал о политике. Что можно говорить, что не нужно говорить, не давлю ли я на него, не обидится ли он, проявит ли он самостоятельность и так далее и тому подобное. То есть куча вещей, которые мы смазываем взаимодействие, вот это в них можно не париться. То есть я хочу вот это, я хочу это по этому и так далее.

Валентин Малых 7:32
На самом деле, да, это очень важный аспект поднял, что когда мы говорим про такую замечательную штуку, как взаимодействие между людьми, это всегда очень сильно политическая история. Тут история в чём? Что когда мы... Говорим про политику. Мне всегда вспоминается одна из гипотез, собственно, откуда у нас появился большой мозг и речь, в частности. Ну, как следствие большого мозга. Именно из-за того, что обезьянкам надо было между собой политику устраивать. А кто кому какую фигу показал, кто кому, значит, банан съел и не отдал, и всякое такое. Вот эти все вещи, судя по всему, именно спровоцировали наше развитие как людей. И наши мозги очень сильно на это заточены. Мы даже не осознаем, насколько сильно они на это заточены, насколько сильно большое количество ресурсов мы на это тратим. Это я не к тому, что это плохо или неправильно, я к тому, что... На это тратится много ресурсов просто потому что люди по-другому между собой работать не могут, они иначе бы все переругаются. Никак не смазывать взаимодействие, а с ИИ можно это не делать. Да, и помнишь, мы как-то с тобой полгода назад, по-моему, обсуждали про подростков. Что подростки общаются с ChatGPT лучше, чем с психологом, потому что ChatGPT тебя точно не осудит. Да, он тебе, может быть, и скажет ерунду, но зато он тебя не осудит, он просто тебя послушает. И это на самом деле очень важный аспект, потому что умение слушать — это в наше время мало у кого встречается, прямо скажем. Да, то есть у нас. Умение слушать — это одна из таких добродетелей, которые, наверное, хотелось бы развивать в себе, да, чтобы быть более эффективным в взаимодействии, тем более, когда у нас кругом. Искусственный интеллект, который как бы слушать умеет, но правда, другой вопрос, к чему это всё приводит. То есть, на мой взгляд, если человек может слушать, то он может сделать много всего другого полезного. В плане, опять же, допустим, инженерного взаимодействия. Да, ты послушав другого инженера, ты и сам чему-то научишься, и ему поможешь, и что-то такое.

Дмитрий Колодезев 9:28
Вот, ну и ещё добавить на эту же тему, что для меня сейчас разработка с помощью LM-агентов, например, это программирование чтением. Если ты помнишь, программирование бабочками и так далее, это программирование чтения. То есть я просто сваливаю имеющуюся у меня информацию без всяких искусственных промптов, ничего просто максимально точно. Я максимально точно пытаюсь сформулировать, что я хочу, и прошу задокументировать задачу, как её понял агент. И затем вычитываю то, что он там написал, эти MD-шки, и пытаюсь понять, какой информации ему не хватало, дотаскиваю её туда до тех пор, пока результат меня не устроит. То есть большую часть времени я читаю. Я читаю во много раз больше, чем что-то пишу, ну, наверное, два порядка. Вот.

Валентин Малых 10:24
То есть, я тоже, я бы сказал, что я. На два порядка больше читаю, хотя я не то чтобы прямо именно читаю то, что агенты выдают. Да, я, ну там, читаю всякую литературу, всякое такое, но это тоже, наверное, можно отнести к тому же эффекту. Да, то есть сначала ты читаешь что-то, а потом ты, соответственно, порождаешь некоторый текст. А сколько он там несёт новую идею или перекладывает старую, это уже какой-то отдельный вопрос. Но кажется, что сейчас в наше время это довольно типично, что мы сначала потребляем большое количество информации для того, чтобы произвести некоторое действие, вербальное или письменно.

Дмитрий Колодезев 11:01
Да, и тут есть же какая деталь, что мне же уже не двадцать, например, да, и объективно код просто вот если писать, мне писать скучно. Я, наверное, его пишу сейчас медленнее, чем любой разработчик у нас в конторе. Вот, то есть, скорее всего, задачу я решу достаточно хорошо, но вот именно как. Написание кода, я думаю, что я пишу его медленно, но задачу я ставлю лучше всех в конторе. Я думаю, что... Вот, и читаю любой код на любом языке, я достаточно бодро. И получается, что вот эти навыки, к которым я шёл четыре десятилетия, внезапно с агентами очень играют. То есть я могу составить себе Впечатление, что он здесь хотел написать на каком бы коде он ни на каком языке не писал, и быстро читаю и собираю в голове документы. То есть, фактически, я занимаюсь тем же самым, чем занимался предыдущие несколько десятилетий с людьми. Вот, очень удобно, блядь. Поэтому есть AGI, нет AGI, но, в общем, я его использую как AGI, как уж достигнул там или нет, я не знаю.

Валентин Малых 12:08
Ну, то есть, ты для меня AGI, а дальше крутись как хочешь, да? Да, но как говорят наши соседи через Берингов пролив в тубе США, а его сборной ради, да, то есть ты как бы всю жизнь готовился к тому, чтобы это случилось, и вот оно случилось. Не то чтобы ты знал про это, но вот оно произошло. Кстати, я всегда лично себя считал просто очень сильно ленивым, потому что мне тоже скучно писать код. Стало с какого-то времени, я считал, что я обленился, до сих пор так думаю, но в целом твоё объяснение тоже, наверное, имеет какую-то, скажем, объяснительную силу, уж портнут футологию, потому что... Действительно, гораздо интереснее поставить задачу к кодовому агенту. Вот когда ты увидел к кодовым агентам, мне стало гораздо интереснее в этом плане. Ты можешь им сказать, что надо делать, и потом объяснять, что сделано было не так, как ты сказал, а параллельно, как бы, свой промпт в голове у себя подправляет.

Дмитрий Колодезев 12:55
Ну, вспоминается классическое, знаешь, не можешь работать, иди руководить, не можешь руководить, иди контролировать. Вот, и по-моему, еще не можешь контролировать, иди преподавать, но в общем.

Валентин Малых 13:08
Ну да, да, там мне кажется, проконтролировать не было, там сразу преподавать было, что и руководить не может. Ну я сразу преподавать пошёл, ещё в институт, так что я... Хакнул систему, ха-ха-ха. Марк Цукерберг сказал, что сделал себе и агента, который выполняет его обязанности как CEO. Здесь, наверное, у многих возник непонимание, что значит. Как можно, как агент может выполнять обязанности CEO? Давайте я попробую пояснить то, как это я вижу со своей колокольни. Может, я вижу это как неправильно, но тем не менее, то, что доступно моему взору, это то, что CEO-организации, чем крупнее, тем больше, это человек, который по большому счету занимается чтением большого количества бумаг, которые ему приходят, да, отчеты письменные. Слушать какое-то количество встреч и раз там условно в полчаса говорить да или нет. Ну, это если совсем утрировать, понятно, что не совсем так, но тем не менее. И тут получается, что агент может, например, ему вот этому CEO подготовить какую-то информацию, которую можно использовать для встречи. Да, то есть у него готовятся встречи с новым каким-то человеком, да, и он может просто. Посмотреть какой-то бэкграунд, о чём вообще речь пойдёт. Да, допустим, мне это уже периодически бывает нужно, хотя я далеко не CEO. Соответственно. Что-то для принятия решения, это очень бывает важно, какой-то дополнительный документ посмотреть, да, или сделать краткую выжимку, хотя с краткой выжимкой тоже бывают большие вопросики, но тем не менее. То есть, кажется, что это довольно простые вещи, и вообще говоря, для этого всю жизнь. Использовали так называемых персональных ассистентов. Да, вот слово секретарь, которая в наше время имеет какой-то такой своеобразный оттенок. Вот секретарь на самом деле. Это человек, который работает за секретером. Секретер — это письменный стол. Вот письменный стол, это значит, что он берёт входящие бумаги, подготавливает их, может быть, делает выписки, может быть, просто складывает в определённой куче для того, чтобы человек, который принимает решения, эти бумаги посмотрел и вынес какую-то резолюцию. Вот это. Есть работа секретаря, и проблема с секретарём на самом деле заключается в том, что, как ни странно, секретарь тоже человек. Там хорошо это, плохо нравится, не нравится, но это тоже человек. И получается, что... Крупного руководителя воздействовали через его секретаря. То есть, допустим, дали секретарю задание, чтобы CEO, соответственно, увидел такие документы, чтобы принял определенное решение. Ну, то есть, увеличить вероятность принятия нужного решения с помощью довольно простого приема взаимодействия. Ну, даже если вспомнить чудесный фильм «Чародеи». Если помните, там приходит Семён Фарада и даёт. Соответственно, как какой-то фрукт, по-моему, секретарю директора, и она его пропускает. Да, то есть это вот способ манипуляции, вполне себе понятный. И это, вообще говоря, было сплошь и рядом. И в этом смысле я лично прекрасно понимаю, почему он, в смысле Марк Цукерберг, он... Соответственно, делал себе сам агента, да, потому что так есть хотя бы какая-то гарантия, может быть, даже не гарантия, хотя бы большая вероятность, что этот агент не будет подвержен какому-то внешнему влиянию. То есть, на мой взгляд, для человека принимающего решения свой агент это в наше время уже необходим.

Дмитрий Колодезев 16:35
Слушай, ну тут, во-первых, Возвращаясь к моей предыдущей пламенной речи, как я сейчас программирую. Я запрашиваю отчеты по имеющимся информации, да. Я даю обратную связь по ним. Я запрашиваю еще отчеты. Я прошу написать другой отчет. Я опять даю по ним обратную связь, да. То есть, вот это то, что я делаю. В консоли Клуба Кода это ровно тот воркфлоу, которым, в принципе, работает руководитель организации. То есть он запрашивает документы, он получает документы, он дает по ним обратную связь, принимает какие-то решения в виде коротких указаний, назовем их промптами. И всё само собой крутится. То есть сам по себе навык работы с исполняющими агентами у неё, скорее всего, прокачан прямо от дозвона. Вот поэтому у него должно быть всё хорошо с этим. А поэтому у него Это работает. Вторая история, которую я не помню, организация, достаточно большая, организация, ее гендиректор сказал, что... У меня менеджеры сделали с помощью LM-агентов моего цифрового двойника. И перед тем, как идти мне с отчетом, а с докладом, докладывают ему и получают от него обратную связь. Тренируется на нем, чтобы потом не провалить доклад мне. Вот, говорит, узнал об этом, говорит, когда он уже существовал. И, в общем, подумал, ну да, наверное, но. То есть, зачем мне работать такими, такой резиновой уточкой, пусть LM-агент за меня самые грубые ошибки выловит. Ну, то есть, да, это вот так надо жить теперь.

Валентин Малых 18:21
Да, ну, кстати, тут можно вспомнить замечательную штуку. Мы с тобой периодически вспоминаем эту книжку, у которой литературных достоинств не так много, а вот пользы она всё-таки приносит. Это книжка про Гарри Поттер и методы рационального мышления. Там Гарри, персонаж этой книги, подчёркиваю. Он, соответственно, говорит, что у него в голове есть образы, там, Гермионы, профессора Дамблдора, ещё кого-то, я уже забыл кого-то. И он с ними, как бы, производит виртуальные диалоги прежде чем что-то сделать, да, то есть они выступают его. Вот этими некоторым способами рефлексии, да, то есть вот это буквально агенты, которые существуют внутри его головы для того, чтобы он мог лучше принимать решения. Так что кажется, что если у вас есть возможность заставить LLM, а не тратить ресурсы своего мозга на такое, то почему бы нет? Вот ещё

Дмитрий Колодезев 19:12
Есть такая методика руководящего мышления, не будем, так сказать, её подробнее описывать, но там у руководителя выделяются четыре роли. А организатор, то есть, грубо говоря, ставить пешки на доске, построить входы и выходы системы, то есть определить, зачем система вообще существует, да. Затем. Руководитель — это декомпозировать цели системы, до каждого донести, что конкретно он в этом пазле делает. Это управленец, то есть ты видишь, что что-то идёт не туда, ты должен подать управляющий сигнал, типа заворачивай. И функционер, то есть какой бы ты ни был генеральный директор, всё равно у тебя существует управленческая рутина — подписать это, одобрить это. Причём большинство Твоих действий как функционер, они механические, скорее всего, написаны в регламенте. А большинство твоих действий управленческих, они, в общем, достаточно механические, и тебе надо просто заметить, что что-то идет не так, да. Большинство твоих действий руководящих декомпозицией задачи, она тоже. Достаточно механическая, то есть тебе нужно взять задачу и так её. Спроектировать, чтобы она была понятна. Решаемо в мире вот этого конкретного человека, и он мог бы своим подчиненным и разумно рассказать. И единственная задача, которая не является тупой при наличии неавтоматизируемой, при наличии полного набора данных, это задача именно организационная. То есть, что куда поставить и зачем вообще всё это? И вот мне кажется, что у руководителей высокого ранга вот эта задача, к сожалению, отнимает очень мало времени, хотя она самая важная, просто потому что они завалены тремя в следующем. Вот. И если какой-нибудь агент сможет снизить эту нагрузку, это очень круто.

Валентин Малых 21:07
Да, да, будем двигаться в это светлое будущее. Как мы знаем, AGI уже наступил, давайте его использовать. Так, это новость про то, что дата-центры могут быть не настолько Вредны для экологии, как принято думать. Честно говоря, я не думаю, что настолько сильно дата-центры вредны в принципе, но тут кажется, пафос больше в том, что... Есть довольно много способов повредить экологии, кроме дата-центров. И дата-центры, пожалуй, один из самых безопасных, если в пересчете на потраченные деньги. Ну, в том смысле, что дата-центр стоит дорого, а по факту загрязнений дает не очень много, потому что, ну, потребляет чисто электричество и какое-то количество холодной воды, по большому счету.

Дмитрий Колодезев 21:51
Но тут прикол в том, как раз, что идёт сравнение, например, с гольфом, что гольф потребляет, поля для гольфа потребляют воды больше в 10 раз, чем вся энергогенерация.

Валентин Малых 22:06
Ну да, ну и это только в США, понятно, да, то есть.

Дмитрий Колодезев 22:09
Да, только в США. И понятно, что на самом деле социальная роль гольфа, конечно, велика, но так, если выбирать между светом в лампочках и гольфом, конечно, большинство людей выберет свет в лампочках.

Валентин Малых 22:23
Другой вопрос, но может быть, это не те люди, которые принимают решение анонимирования световой лампочки.

Дмитрий Колодезев 22:27
Да, но в любом случае, вот это знаешь. Очень часто история про Экологию дата-центров и вообще про влияние ИИ, он напоминает, есть такой термин «bikeshedding». То есть, когда у нас есть большой дом, мы быстро решили наскоро, как он будет устроен, и потом мы две недели спорим над дизайном сарая для велосипедов. Вот, а есть. Особенность у всех этих новых технологий — они новые, а это значит, что они используют самые новые подходы к энергогенерации, передаче, трансформации и так далее и тому подобное. По-хорошему неэффективности в старых индустриях, ну, например, в гольфе или где-нибудь ещё там, вот-вот, где-нибудь по-настоящему просто к ним привыкли. Вот правда, опять же, и в том, что... Есть неудачная такая комбинация, что в принципе. Дата-центра, может быть, мало наносит вреда природе в целом, в среднем. Но конкретно жителям каких-нибудь городов они наносят очень много вреда. Да, и это история с температурой в больнице, где средняя между, так сказать, тифузной палатой и моргом, ну, в общем, там 36,6 у людей температуры. То есть в среднем, да, на природу воздействие небольшое, но некоторым людям прямо таки жизнь не портит. Поэтому вот такое двойственное отношение к этой статье.

Валентин Малых 23:58
Ну, посмотрим на самом деле. Я думаю, что есть довольно много вещей, которые мы привыкли. Например, не все осознают, что наше сельское хозяйство очень сильно зависит от энергии. Энергии в общем смысле, на один джоуль, ну или хотите, на одну калорию, которую мы потребляем. Люди в зависимости от пола, возраста и всякого другого потребляют где-то между двумя и четырьмя тысячами калорий в день. Так вот, на одну калорию в пище мы тратим примерно семь калорий в виде какой-то энергии, например, ископаемой. Да, то есть необязательно ископаемой, именно что там нефть, например, да, но в среднем это может быть и солнце, и газ, и уголь, и всё что угодно. Но важно, что тут соотношение семи к одному, да, то есть мы тратим очень много энергии для того, чтобы произвести пищу. И это вообще говоря... То, что мы имеем, и то, что нужно понимать, что это очень-очень дорого, и мы не можем это уменьшать, потому что иначе у нас просто, ну как бы, люди будут останутся без еды. Очень страшная история. Поэтому кажется, что пытаются в этом смысле экономить на спичках, то бишь, на дата-центрах, когда можно попробовать вот те же самые поля для гольфа немножко урезать, как того осетра, да, и тогда у нас будет немного легче. Не то чтобы решаться все проблемы, но, опять же.

Дмитрий Колодезев 25:21
Ну, посмотрим. У нас, к счастью, нет полей для гольфа в нашей стране, таких больших.

Валентин Малых 25:28
Ну, таких больших нет, конечно. А в Подмосковье поля для гольфа есть, в Петербурге тоже, по-моему, есть. То есть, сколько они там потребляют. Электроэнергии и воды я не берусь сказать, но с этим всё сильно проще, потому что там в Южных Штатах, Соединённых Штатах Америки. Там у них большая проблема с водой в той же Калифорнии. У нас довольно мало регионов имеют проблему с водой, и Москва к ним не относится. Но в любом случае. Ограничения есть у нас, а причём очень большие. Вот эта статья тоже достаточно интересная, потому что у меня тоже был разговор на эту тему. Значит, история здесь в чём? Что исследование некоторое было произведено, я забыл, кем, может, ты мне сейчас расскажешь. И они говорят, что люди не обеспоко... И не предпринимают. Никаких срочных действий по поводу, соответственно, Опасности ИИ, ну в каком смысле? Как недавно, в 2023 года мы ещё обсуждали, соответственно, вот этот прогноз AI 2027. И там вроде было всё даже не то чтобы совсем плохо, да, но на мой взгляд, основная идея вот этого прогноза, она не в том, что он сбудется, а в том, чтобы ребята, посмотрите в эту сторону и давайте что-нибудь по этому поводу сделаем. И здесь, соответственно, было приземное исследование, в котором они показывают, что людям в целом наплевать, да, то есть люди особенно не беспокоятся по поводу вот тех вот проблем, которые теоретически и может вызвать. Я не знаю, как это интерпретировать, то есть хорошо ли это или плохо. Это просто некоторый факт нашей жизни, что люди в среднем не обеспокоены и, по крайней мере, в той мере, в которой ожидают люди, которые публикуют свои вот эти вот страшные отчеты.

Дмитрий Колодезев 27:16
Вот, ну, это проводило исследование Social Change Lab. И они опрашивали жителей United Kingdom, да, Соединенного Королевства. И около четырех тысяч, три с половиной тысячи людей были опрошены. И на них они делали выводы. То есть, в принципе, выборка не очень большая и достаточно смещенная, мне кажется. Вот, и выводы, которые они сделали, что из общепринятых. ИИ рисков только риск ИИ-enabled оружия, да, то есть умного оружия, действительно беспокоит людей, и все более-менее сходятся в том, что надо бы его запретить. Вот из других рисков. Людей сильнее всего беспокоит вред на наносящейся окружающей среде, вот, а ну все остальные как бы никого особенно не парят, то есть риск. Диспециальный риск для человечества, типа мы все вымрем, оно у нас взухалывает. Люди, скорее всего, устали, боятся и занимаются более практичными вещами. Вот примерно так. Как бы то, что нас заменит ей, люди на удивление низко об этом мало об этом беспокоятся. Ну а тут, возможно, как раз это. Выборка. Видишь, некоторые люди могут не беспокоиться, потому что они информированы о том, что происходит, а некоторые могут не беспокоиться как раз потому, что они неинформированы о том, что происходит, или у них просто фантазии не хватает понять, что сейчас их переедет дорожным катком. Ну, в общем, не очень понятно, но интересно, что общество, похоже, устало бояться терминаторов из-за него со своими делами.

Валентин Малых 29:13
Слушай, ну, Терминаторами просто пугали уже, я не знаю, на протяжении последних сорока лет, да, то есть, когда-то вышел первый Терминатор, это девяносто второй год, да? Второе, девяносто первый, нет. Девяносто первый даже. Вот, ну то есть, если тебе постоянно кричать волки, ты как-то перестаешь реагировать, как мы помним, да. Я не к тому, что обязательно сейчас волки прибегут, в смысле, что... Терминаторы нас всех захватят, но тут просто что, как бы, перепугали. Ты прав, мне кажется, то есть долго пугали. Выхлоп был всегда копеечный, то есть, ну хорошо, вот соответственно, вот у нас есть, значит, не знаю, что такое. У нас есть, например, вот эти вот самокаты, да. Да, самокаты многие весят, но в целом сказать, что они вообще повсеместно на планете. Вот, например, в Марокко. За всю неделю видел два самоката. Не знаю почему так. Да, то есть, может быть, здесь это не принято, может, это неудобно, а может, у людей денег нет. Просто в Марокко. Самокаты не являются проблемой, в отличие от Москвы, например, ну или других крупных городов. Так что ты прав, кажется, что выборка здесь сильно повлияла на результаты исследования. Отличная новость. Я, соответственно, за коллег очень рад. Они презентовали новый процессор Ascend. Если что, Ascend — это Восхождение, да, что такое, наверное, можно перевести в возвышение. Вот этот вот Ascend утверждается, что он неплохо работает и на тренировку тоже, а не только на inference, как они, как раньше. И, соответственно, вот этот вот Ascend 950 PR, он вроде бы действительно хорош, и они... Получили заказов на 750 тысяч процессоров от других крупных фирм, таких как Alibaba. Хотя Alibaba, насколько у меня есть своё железо, но тем не менее у них своё железо какое-то отдельное, видимо, для каких-то других нужд. А вот Huawei они потребляют в каких-то больших количествах. Посмотрим, насколько это... Политическое заявление, да, в смысле, что из компартии позвонили и попросили Alibaba купить эти процессоры, или это действительно потому, что переден некто психологический рубеж, что появилась достаточная структура для работы на этих процессорах?

Дмитрий Колодезев 31:37
Ну, я тут вижу следующее, что Huawei говорит, что система, собранная на этих чипах, она вполне конкурирует с H20 и превосходит её, да. И ещё тут ни слова не сказано про энергоэффективность. Вот, то есть оно вроде бы дешевле, оно вроде бы быстрее, чем H20, но мне кажется, что вот если бы оно было энергоэффективнее, они бы об этом непременно написали. И то, что об этом не написали, у меня некоторые вопросы возникают. А так я очень-очень рад, потому что на самом-то деле, тем больше будет независимых вычислительных архитектур, тем меньше шансов, что мы упрёмся в какой-то тупик, как индустрия.

Валентин Малых 32:24
Ну да, это действительно правда. Я бы тут в другую сторону немножко пошёл, что кажется, что Huawei ещё просто не дошли до энергоэффективности. То есть, вот недавно была презентация NVIDIA, и там они делали основную упор на энергоэффективность. Видимо, железо развивается сильно меньше, чем софт, а медленнее. И поэтому мы где-то через год ждём анонса энергоэффективных чипов от Huawei. Я вот так бы предположил.

Дмитрий Колодезев 32:51
Слушай, я сейчас прямо сейчас, ну не прямо сейчас, а вот последний день слушаю интервью Хуанга как раз, да. Которую он дал Фридману, и он там говорит, слушайте, говорит, ну. В проектировании всех этих чипов, там какая история, что мы... Сейчас фактически делаем то, что будет использоваться через Два года, да, то есть раньше делали то, что будет использоваться через пять-шесть лет. Сейчас делаем то, что будет использоваться через два года. И несмотря на вот это бешенное развитие отрасли, мы вынуждены угадать, что будет через два года. Вот. Ну и если смотреть на то, что сейчас делает NVIDIA, то они предполагают, что будет небольшой недостаток энергии. Вот, то есть энергоэффективность будет наиболее важной характеристикой.

Валентин Малых 33:46
Скорость развития, ну банально, скорость строительства новых электростанций, она упирается во очень много разных физических ограничений. Банально количество железа для того, чтобы не железо, железо как железо, а каких-то специальных материалов, сплавов для того, чтобы делать те же самые лопасти для турбин, которые у нас крутят какой-нибудь газ, уголь, ветер, что угодно и так далее. То есть у нас очень много ограничений. Почему энергетика не может расти быстрее там, чем 2% в год? Из этого мы непосредственно делаем вывод, что если мы хотим кратно увеличить объём потребляемой энергии вот этой областью и собственным интеллектом, то бишь, содами, то это значит, что нам надо переходить от экстенсивного использования электричества к интенсивному использованию электричества, то бишь, к энергоэффективности, потому что иначе скорость роста потребления, она упрётся. То есть, даже не рост потребления, это неправильно. Она по-любому упрётся, а вот скорость роста, соответственно, прироста вычислительных мощностей, вот она действительно упрётся достаточно неожиданно для многих.

Дмитрий Колодезев 34:52
Ну, тут я опять же процитирую Хуанга (Huang) с его интервью. Он говорит, что там интересная организационная подробность. У него 60 прямых подчиненных, и каждый из них — специалист, отвечает за определенную область. Он говорит, у меня нет one-to-one с ними, один на один. А мы, говорит, поскольку заняты сейчас сквозной оптимизацией наших продуктов и производства, да. То любой вопрос мы обсуждаем со всеми. То есть, например, мы говорим о быстродействии памяти, при этом. У нас задействованы люди ответственные за кремнии (chips), за шины (buses), за меш (mesh), за CUDA и так далее и тому подобное. Понимаешь? То есть большинство сложных систем, у них нет единого бутылочного горлышка. У них есть бутылочный гофрированный шланг, то есть как только ты пройдешь одно бутылочное горлышко, там тебя сразу ждет следующий. И соответственно, путь локальных независимых оптимизаций заведомо провальный. Huang. Huang говорит, что они сразу ориентируются на глобальные оптимизации, то есть обсуждают любую проблему, и она Может затронуть любую другую систему, поэтому он просто собирает всех. Говорит, организационно это очень дорого, но другого способа постоянно получать глобальную оптимизацию у нас нет. Вот такая вот интересная история.

Валентин Малых 36:15
Слушай, ну 60 прямых подчиненных — это, конечно, чума.

Дмитрий Колодезев 36:19
Ну, он на самом деле вообще очень интересный человек, и я его сейчас слушаю. Интересно слушать его интервью.

Валентин Малых 36:28
Здорово, что мы живём на одной планете с таким замечательным, уникальным человеком. Anthropic предварительно получил одобрение того же своего протеста на, как сказать, на действия Министерства войны, которое требовало от него снять вот эти вот самые шоры, табли, guidelines, guardrails, pardon. И у нас получается, что они ссылаются на первую поправку. Я не очень хорош в американской конституции. Мне кажется, первая поправка — это свобода слова, правда же?

Дмитрий Колодезев 37:02
Да, и история тут в том, что, в общем, Anthropic жестоко выбросили с рынка. Бюджетников, да, американских, вот, и они пошли оспаривать это решение в суд. И соответственно, федеральная судья в Сан-Франциско сказал, ну да. Это всё не выглядит как законное решение, это всё не выглядит как бизнес-решение со стороны Министерства обороны США. Со стороны Министерства обороны США это выглядит как месть и попытка наказать за публичное обсуждение условий контракта.

Валентин Малых 37:41
Ну, даже не знаю. Вот я, опять же, далёк от американского правосудия, наверное, слава богу, а мне не очень понятно, что значит публичное обсуждение контракта, почему это плохо, во-первых. Да, ну то есть, ну они сказали, что они не согласны, но не согласны, не согласны. Мне кажется, проблемы в обсуждении как таковой никто не заявлял. Да, то есть, вроде бы, министерство нашей войны, то бишь их войны, оно соответственно Не требовала соблюдения здесь секретности, может быть, и опять же не прав. И получается, что сама по себе посылка того, что они осуждают Anthropic за публичное обсуждение, неверна. То есть, они Anthropic наказывают за то, что Anthropic не пошёл с ними на сделку, а не из-за того, что он с ними что-то обсуждал. То есть, причём здесь свобода слова, я отказываюсь понимать.

Дмитрий Колодезев 38:33
Ну, буквально формулировка наказания компании Anthropic за привлечение внимания общественности к позиции правительства в отношении государственных контрактов является классическим примером мести в нарушении Первой поправки Конституции США. Вот, то есть. Ну, тут история какая, что судья любой федеральный может принять какое-нибудь решение, и, в общем, оно будет отменено судом более высокой инстанции, это дело житейское. Вот, ну, в общем, на самом-то деле непонятно, насколько это вообще. Выигрышная стратегия. То есть, например, в некоторых странах, если ты пошёл в суд отстаивать свой контракт с государством, ты, может быть, в суд выиграешь, но контракт всё равно уже не получишь, да? Вот, и я думаю, что Соединённые Штаты — это именно такая страна, я вот не знаю. Поэтому как бы непонятно. Какой тут вывод? То есть они могут сохранить какие-то текущие контракты, но логика большой системы всё равно должна по ним проехаться, да. То есть корпорация не мытьем, так катанием всё равно им контракты не отдаст. Ну, вот так.

Валентин Малых 39:48
Ну, то есть, мне кажется, что это попытка хайпануть и, соответственно, привлечь на свою сторону часть компаний, которые выступают против действий текущей администрации. И мне кажется, вот я только так могу это декретировать, что они хотят забрать тот кусок рынка, который, соответственно, согласен их пожалеть, что ли, я не знаю, потому что у них вот есть.

Дмитрий Колодезев 40:13
Что бы это ни было, прежде всего, это пиорация, я думаю.

Валентин Малых 40:18
Да, я полностью согласен. Вот то, что пиар-акция, это вообще вопросов нет, а вот эта вся история про первую поправку. По-моему, это как-то очень сильно за уши притянуто. Начали, значит, про суды. Продолжим про суды. У нас сегодня такой подкаст, видимо, с определённым уклоном. Жюри в Лос-Анджелесе. Нашло, что YouTube и запрещенные на нашей территории Meta, они виновны в том, что создают привычку пользователей. Да, то есть тут прямо скажем, addiction. Addiction — это как не просто привычка, а как такая болезненная привычка, но как к алкоголю. У некоторых людей, и соответственно, они говорят, что вот эта привычка провоцируется вот этими компаниями специально, да, то есть они как бы специально так работают, что провоцируют образование привычки. На мой взгляд, это утверждение сродни тому, что Солнце встаёт на востоке, да, то есть да, компании именно так и делают, потому что они на этом зарабатывают деньги, иначе бы они их с октября не зарабатывают. Ну, как бы, кажется, что, ну, всё довольно просто, но тем не менее. Там было какое-то долгое юридическое разбирательство на тему того, что вот это все ваши рекомендательные системы, они же, да, они рекомендуют, и этот ваш ей сильно помогает, но фактически он же ведёт к тому, что человек как бы привыкает к нему, и после этого становится, как сказать, менее свободен, да, точно, становится зависим от вот такого сервиса.

Дмитрий Колодезев 41:56
Конечно, человек становится зависим. Я прямо верю в это. А во-вторых, американская юридическая система имеет, например, такую штуку, как групповой иск потребителей. Где от имени всего пострадавшего американского народа, вот список из 100 тысяч человек, некий юрист подает иск к Большой корпорации. Если он его выигрывает, он получает, там, скажем, 15, 18, 30 процентов этой суммы. То есть, скажем, по тысяче долларов с 100 тысяч человек, ну и вот как бы один юрист уже. Решил свои проблемы, своих и своих детей. Вот поэтому, в принципе, вот то, что решение и другое решение, о котором тут же упоминается, принято, это, так сказать, вот та самая кровь в болоте с акулами. И сейчас многие попытаются составить состояние для своих детей, да, этой истории. А в целом... Я не знаю, как избавить людей от зависимости, как это ограничить. Но когда мне тут последний раз на Data Breakfasts говорили ребята про то, что вот. TikTok и всё такое прочее в него залипают. Я посмотрел статистику, сколько люди за последнее время залипали в медиа, да. И вообще-то говоря, в телевизор средний американец старшего возраста залипал шесть часов в сутки. Вот мне кажется, что у современного работающего человека просто нет шести часов залипать в TikTok, поэтому хуже точно не стало.

Валентин Малых 43:36
Ну, хуже в среднем не стало, тут мне кажется, что знаешь. Они в этом смысле нашли какую-то простую цель, потому что обвинить телеканалы в том, что они заставляют людей себя смотреть по шесть часов, как-то, ну, видимо, не получается. Да, может, и получалось когда-то, но это не знаю. Может, нам в комментариях подскажут. Кстати, да, обязательно заходите к нам в Mattermost и присылайте новости и оставляйте комментарии. Это бывает очень интересная дискуссия. Так вот. Тут получается, что у тебя есть конкретное приложение, которое конкретно приводит к зависимости, и это чётко можно отследить. Отследить зависимость от телевизора, видимо, сложно. Ну, в том смысле, что, ну хорошо, телевизор, как бы... Кого ты будешь наказывать? Да, у тебя есть телевизор, который является предметом производителя телевизора. Нет, он просто даёт тебе возможность смотреть. А кого? Производители контента, они вроде тоже никого не заставляют себя смотреть, потому что там каналов много, и каждый что-нибудь своё показывает. То есть, в зависимости от, не знаю, от Netflix или что-нибудь такого, вроде бы не обсуждалось, хотя могу что-то не знать.

Дмитрий Колодезев 44:48
Я бы, честно говоря, ожидал регулирования формата вот этих вот шортсов. Ну, в общем, TikTok-подобные шортсы, я думаю, что действительно могут быть опасны для части аудитории. Наверное, к ним надо внимание проявлять.

Валентин Малых 45:08
Особенно для людей, не сформировавшихся, то есть для детей, да, то есть у них нет еще барьеров.

Дмитрий Колодезев 45:15
Тут хочется вклиниться. Знаешь, я читал недавно исследования как раз о влиянии. И конкретно на психику, да, и там люди поднимали интересный вопрос, что да, конечно, ИИ расшатывает психику людей нездоровых, да, но мы уже измеряем это задним числом. То есть, когда мы смотрим, вот человек у нас сломался, да, то есть он начал стрелять в соседей или прыгать из окна, или вообще как-нибудь себя вести неправильно. Вот и мы говорим, а ну да, он был психически нестабилен, и ChatGPT его, так сказать, расшевелил. Но дело в том, что никто не знает, был ли он психически нестабильен до того, как его дали ChatGPT. То есть вся оценка таких вещей, она постфактум, знаешь, самооправдывающиеся, самоизбывающиеся пророчества. Типа, мы смотрим, и человека расшевелило. Как у такого современной медиа, и говорим, ну, наверное, он был практически нестабильным. Вот, а насколько оно расшевеливает людей, которых мы считаем психически стабильными, этого никто не исследовал. А есть, например, такая история про, например, томографию. Да, то есть томография — очень полезное исследование, но была интересная штука, когда взяли Сто человек, у них у пятидесяти были боли в спине, у пятидесяти не было. Сделали всем томограмму и попытались врачами разделить на две кучки. Ну, классическая постановка эксперимента. У кого спина болит, у кого нет. Ну, в общем, получили примерно случайную выборку. Вот, то есть спина болит, и на томограмме есть вот эти вот. Грыжи, как их называют, ну просто ортогональные друг другу вещи. Вот, и если мы не можем с томографией этого увидеть, да, то вот у нас есть люди, которых мы не подвергали ни психометрии, ни какой-либо диагностики, да, и потом часть из них, пообщавшись с TikTok или с ChatGPT, говорят, ну всё, мы будем нападать на прохожих с оружием, да. Наверное, они были психически нестабильны, не сходятся, это плохо поставленный эксперимент.

Валентин Малых 47:28
Да, но мне кажется, тут отчасти можно найти ему не то чтобы оправдание такой постановки, но хотя бы. Понять, почему так? Просто из-за того, что и в современном его изводе, про который мы сейчас говорим, ЛЛМ и прочие окружающие... AI появились буквально пару лет назад, то есть никто. Вот это вот пролонгированные исследования еще банально не успел сделать, еще даже не успели про это подумать. Может, сейчас уже успели и начали его делать, но когда будут какие-то результаты, там же надо несколько лет наблюдать. А учитывая скорость изменения и улучшения, то есть у нас один фактор, мы даже один фактор сфиксировать не можем, да, то есть у нас этот фактор постоянно изменяется, поэтому как-то очень сложно, очень сложно здесь какой-то грамотный эксперимент поставить, к сожалению. Согласен. Следующие новости у нас про компанию Amazon. Она приобрела стартап в сфере человекоподобных роботов, который называется Fauna Robotics. Fauna, если кто-то вдруг не знал, это обозначение всех. Живых существ, которые умеют двигаться, а те, которые не умеются, называются Flora. Соответственно, у нас получается что? Что есть вот этот вот стартап, и сама по себе новость на самом деле не особо интересная. На мой взгляд, она интересна именно в том разрезе, что компания Amazon тоже включается в гонку ИИ. Только ИИ уже то, что сейчас принято назвать Embodied AI, это AI, да, то есть воплощённый искусственный интеллект в виде каких-то роботов. Это сейчас стало супер важно, и потому, кажется, все туда бегут. То есть китайцы всех обошли на повороте, и они уже в прошлом году Показали несколько прямо супер хорошо работающих решений. Ну, понятно, что они ещё кривые, косые, и они пока ещё, может быть, настолько хороши, но периодически возникают ещё новые и новые способы их использования. Я думаю, что не мытье так, так а то не мы придём к тому, что часть работы они всё-таки будут выполнять, по крайней мере, в Китае так точно. А вот то, что в это включилась большая западная корпорация, да, вот это уже интересно. Потому что западные корпорации как-то отставали от китайских в этом плане, но мы получаем некий такой постфактум признания того, что китайцы были правы, да, что они так хорошо и сильно вкладывались не просто так, а в нечто перспективное.

Дмитрий Колодезев 49:50
Ну да, а Амазон же ещё перед этим как раз вот тогда об этом написано купила Rover. Это компания, которая робособак делает на колёсиках, то есть не на ногах, а на колёсиках. Соответственно, они могут, заблокировав колёсики, подниматься по лестнице либо катиться по. Тротуару, в общем, так бодренько передвигаться, переходить через препятствия. И я думаю, что да, у Амазона, кстати, большой парк складских роботов.

Валентин Малых 50:19
Да, они были первыми, кто сделал сплотских роботов, это правда. Но вот с роботами гуманоидными, как-то у них, ну ладно, хотя бы просто там какими-то похожими на животных, да, робособаки, те же самые. У них было как-то не очень. Ну, видимо, не получалось своё или не знаю, в общем, не было новостей про это. А вот сейчас они в это стали вкладываться, и видимо... Рынок дошёл до того, что действительно люди хотят потреблять роботов более-менее гуманоидного вида. Опять же, мы с тобой обсуждали, что это не очень понятно, сколько это эффективно, но тем не менее.

Дмитрий Колодезев 50:55
Я хотел сказать, что это необязательно эффективный формат, но это продаваемый формат, потому что промышленный робот купить домой трудно и непонятно зачем. Да, у него непонятный сценарий использования, а тут по большому счёту это, ну, игрушка такая, да, то есть. Робот способен взаимодействовать с людьми, ходить, поднимать предметы и танцевать. Но люди тоже могут делать это дорого, гораздо дешевле. Робот предназначен для уборки игрушек, доставки еды из подсобных помещений и других задач. Ну, в общем, если человеку для этого не хватает, скажем, домохозяйки какой-нибудь, ну, игрушки могут и дети сами убирать. То есть, история, она больше такая развлекательная. Но люди готовы платить за развлекательную историю.

Валентин Малых 51:40
Слушай, ну изначально вот эти вот все смартфоны, это же тоже были скорее развлекательные штуки, да, то есть их польза.

Дмитрий Колодезев 51:49
Плеер был. Изначально это были плееры.

Валентин Малых 51:52
Да-да-да, эти iPods прямо стали сильно популярны. Это меня всё прямо мимо прошло. Да, я совершенно не музыкальный человек, поэтому меня никогда не интересовало. Но тем не менее, вот эти вот штуки, они действительно привлекательны, как техническая какая-то игрушка. Да, что там вот что-то прикольное происходит, там в змейку поиграть туда-сюда. Я понятия не имею, можно на iPod было играть в змейку или нет, подозреваю, что можно. Но я вот был пользователем, соответственно, первых смартфонов ещё. Если кто-то помнит, что такой Siemens SX-1, вот я его, соответственно, очень сильно любил, прямо активно пользовался. И тогда, соответственно, пользы, вот непосредственно, как бы, натуральной пользы, да, в ведении дел, например, смартфон особо не представлял. Это была именно игрушка. И ничего плохого в том, что это была игрушка, я лично не вижу. Зато из игрушек потом появились очень полезные вещи, которые без которых сейчас я там не представляю, как дела вести на самом деле, потому что мне в дороге очень сильно планшет пригождается.

Дмитрий Колодезев 52:51
Интересно, если помнишь, как первые промышленные роботы интегрировались с людьми у Amazon. Они же придумали LifeVest, то есть каждый сотрудник склада надевал на себя с датчиками жилетку, чтобы роботы отслеживали его местоположение на складе. И тормозили рядом с ним, не задавили его и не убили. Вот, то есть складские роботы, у них, бишь, были они несовершенны, они ездили не туда, они сбивали людей. Они такую вот заплатку придумали, и это позволило их выкатить в прот и, в общем, пользоваться ими. Вот, а интересно, какие guardrails есть. По поводу роботов и детей, потому что, допустим, если мы берём взрослого человека, ну, скорее всего, вот этот робот 27 килограмм, он ему серьёзно вреда не несёт. Но если мы берём двух- или трёхлетку, то 27 килограмм самодвижущиеся с руками и ногами — это вот интересный вопрос.

Валентин Малых 53:52
Ну, я думаю, что мы это пронаблюдаем прямо в прямом эфире. У нас будут люди это покупать, и мы будем видеть, как это происходит.

Дмитрий Колодезев 54:00
Хотелось бы, чтобы детей, ахаха, если тьме ничего не случилось.

Валентин Малых 54:04
Я тоже всячески за это выступаю, но тут мы это просто проверим на практике, к сожалению. Нельзя обойти стороной. Релиз от коллег из Сбера. Они выпустили GigaChat 3.1. Если кто-то пропустил в ноябре, они выпустили GigaChat. Три в двух размерах Ultra и Lightning Ultra, соответственно, это. 700 — два миллиарда параметров, а Lightning — 10 миллиардов параметров, обе MoE. А тут они, соответственно, выпустили и обновленные версии этих моделей, и они прямо сразу показали очень хорошие результаты, понятно, на мере в первую очередь, да, но и на всяком таком. То есть, в целом, можно за коллег только порадоваться. У нас на нашем рынке с нуля только Сбер что-то делает, поэтому можно только порадоваться. Как-то так.

Дмитрий Колодезев 54:56
Ты знаешь, да, там есть чисто технические, конечно, вопросы ко всем этим отчётам, да. То есть, хотелось бы, чтобы сравнивали они не с прошлыми версиями, допустим, Qwen, а с текущими, но в целом. До такой степени круто, что у нас есть независимый стек LLM в нашей стране и инженеры, которые его делают, что всё остальное уже это просто издержки производства. Из интересных деталей это, например, обучение в FP8. То есть они, если помнишь в своё время, когда DeepSeek учились, они какие-то, если я ничего не путаю, они какие-то вещи учили как раз. В более низких квантованиях, да, то есть в более низкой точности, что и позволило им безрядно сэкономить. Вот и вот ребята, работавшие над GigaChat, они тоже придумали интересные хаки, как работать с меньшей точностью быстрее и вот прикольно.

Валентин Малых 56:02
Да, в этом плане они, конечно, молодцы. Нет, ну то есть, я считаю, что в этом смысле Сбер выполняет категорически необходимую функцию. То есть, если мы хотим, чтобы у нас что-то развивалось, нам нужно, чтобы кто-то это делал. Да, то есть, это сейчас готов тратить деньги только Сбер. Ну и прекрасно, я считаю, что Сбер большие молодцы, что это делают. Вот. А то, что ты правильно сказал, что сравниваются они немножко не с теми дизлайнами, с которыми мы бы ожидали, но как есть. Что, будем? Да, нету гербовой, пишем на обычный. Anthropic выпустил экономический индекс, точнее, репорт про него и про всякие кривые обучения.

Дмитрий Колодезев 56:47
Anthropic, он каждый месяц выпускает, ну на самом деле, каждые два месяца он выпускает экономический индекс. И они говорят, что если раньше Claude люди использовали в основном для того, чтобы аугментировать свою работу, да. То теперь всё больше и больше работы именно в автоматическом workflow, когда мы не выделяем какой-нибудь кусочек Клоду, а прямо отдаём ему задачу из конца в конец. Вот. Клод начинает применяться на Как тут написано, low-wage tasks. То есть, грубо говоря, первыми Claude начали использовать люди, что время стоит очень дорого. Сейчас он спускается вниз по цепочке, то есть его начинают применять не только люди, которые там получают 200 долларов за час и больше, его начинают применять люди, которые работают на менее высокооплачиваемых работах для помощи в своих действиях. И при этом сохраняется большое неравенство в использовании LLM, то есть есть определенное количество стран, в которых люди его используют, а остальные не используют Claude. Да, но скорее всего у них есть проблемы либо с оплатой его, либо с доступом, либо с чем-нибудь еще. И чем больше, допустим, доход в средний странах, тем больше в нем используют Claude. Ну, в общем, как бы, тем больше у людей свободных денег, да. И да, и чем образовывание людей, тем... Лучше у них получается добиться того, чего они хотят. И это, кстати, здорово совпадает с моим ощущением, что чем человек квалифицированнее, чем он бодрее читает и пишет, то есть коммуницирует письменно, тем на нужную тему, тем больше ему помогает LLM и LLM-агенты.

Валентин Малых 59:04
Мне кажется, что следующая революция будет тогда, когда, соответственно, у нас условный Claude, да, не Claude, а какая-то ИИ-модель, научится всё-таки внятно говорить по телефону. Да, то есть люди, которые сейчас работают на телефоне, резко пересядут, соответственно, на Claude и будут объяснять Claude по телефону, потому что вот лично я не... Ну, очень люблю говорить по телефону. Это вот у меня такая особенность. Я небольшой любитель, мне проще общаться текстом. Поздравляю, что у тебя тоже, примерно, такая же история, но соответственно, есть большое количество людей, которым проще общаться по телефону, да, то есть, и это прямо даже не то, что от возраста зависит. Тут казалось бы, что, ну, во-первых, мы с тобой люди ещё восемнадцатого века, да, ну, понятно, но... Тем не менее, есть большое количество и молодых людей, которые тоже больше общаются по телефону, нежели... Или текстом. И тебе не кажется, что вот этот пласт людей, допустим, те же таксисты, они полностью ну не то чтобы полностью исключены, но довольно сильно исключены сейчас из использования вот этих вот моделей. И если мы сможем обеспечить вот такой вот голосовой канал, нормально работающий, то здесь ещё прямо откроется очень большой пласт людей, которые смогут взаимодействовать.

Дмитрий Колодезев 1:00:20
Я могу говорить на эту тему до утра. Смотри, во-первых, в том же Claude есть голосовой режим уже буквально выкатили недавно. Вот, во-вторых, одна из причин, почему люди используют OpenClaude, потому что с ним можно общаться голосом. Да, и сам. Разработчик OpenClaude описывал именно свой момент, когда он был на бале с девушкой, и он записал голосовуху в WhatsApp. Своему, тогда он ещё не назывался OpenClaude, тогда он назывался просто Claude. И он подумал, что это за формат, прочитал заголовок, нашёл у него ключ. А Whisper разпарсил и ответил им. И сам Steinberg говорит, что большую часть времени он именно разговаривает с LM. Я, говорит, вообще не люблю писать, я с ней чаще всего именно разговариваю. И вот тут немножко небольшой экскурс в историю, что вообще-то говоря, голосовой ввод был давно. В системах, и он Dragon Dictate был когда ещё, ну, наверное, ещё в Windows 95 ещё не было, был Dragon Dictate, или вот как раз примерно в это время и появился, да. Может, чуть позже, ну, где-то вот так, в девяностых ещё в конце. И он не прижился по очень простой причине. Во-первых, людям трудно долго говорить голосом, если они специально не обучены. Я думаю, что у тебя этой проблемы нет. Потому что ты преподавал и можешь говорить долго, но вообще большинство людей просто пользоваться голосом больно несколько часов в день. А во-вторых, люди сидели в общих кабинетах в open space, и голосовой интерфейс в open space — это катастрофа. То есть представь себе, куча людей сидят и разговаривают параллельно. Да-да-да, но одно дело — колл-центр, другое дело — если вы начнёте вести так бухгалтерию или программировать, он будет очень-очень неудобно. Вот что касается голосового интерфейса, то я так для себя давно, ну, видишь, я больше не... Ну, я наполовину инженер, наполовину управленец, и что ты управленец больше в последнее время, да. И у меня есть такое правило, что все эмоционально насыщенные вещи надо переключать из текста в голос. То есть, как только ты общаешься текстом асинхронно, потом ты видишь, что дело идет странно. Надо мгновенно переключаться в голос или видео. Вот, чем быстрее ты переключишься в голос или видео, тем быстрее ты решишь проблему. Вот, то есть инженеры так себе не ведут, а управленцы на самом деле так себе ведут часто. Именно потому, что у нас какие-то вещи, связанные с, скажем, неуверенностью человека, чего-то ещё, они в тексте чувствуются, но ты не можешь их быстро размотать. У тебя длинная петля обратной связи. То есть все управленческие тупники обычно решаются на такой шаблон переходом в короткую петлю обратной связи. И вот голосовой интерфейс — самая короткая петля обратной связи, поэтому для многих как раз управленцев голос удобнее, просто потому что он короткая петля обратной связи. С агентами самая короткая петля обратной связи, на самом деле, наверное, текст. То есть мы читаем и пишем быстрее.

Валентин Малых 1:03:51
Вот да и нет. Да в том смысле, что вот в нашем с тобой режиме работы я согласен, но когда ты говоришь, что... Там невозможно работать. Насколько я могу судить по своим знакомым бухгалтерам? У меня их, так получилось, в окружении достаточно много. Не будем уточнять почему. И насколько я могу судить, они довольно-таки бодро общаются, бодро работают, как раз в условиях, когда вокруг много людей. Более того, меня, допустим, жена довольно сильно Меня удивляет тем, что она довольно продуктивно может работать, допустим, в оживлённом кафе. Я вообще не могу, у меня сразу всё падает, я не могу совершенно сосредоточиться. А она, в общем-то, может это прекрасно делать. И это, мне кажется, вопрос именно некоторой. Ну, не знаю, настройки психики в каком-то смысле, да, то есть есть люди такие, как я, есть люди такие, как там, люди, которые работают в бухгалтерии, да, или там в колл-центре. И это не значит, что это какие-то плохие люди или хорошие, просто это другие люди и всё. И мне кажется, что вот этим людям как раз текстовый интерфейс. Удобно. Ну то есть мне кажется, что есть большой процент людей, я не знаю, какой мне сложно его оценить, которым удобнее было бы, если бы им система говорила голосом. Это как раз то, о чем ты говоришь, про то, что про короткую пиздевую обратную связь. Для них это было бы короче, чем текстом.

Дмитрий Колодезев 1:05:17
Да и нет, опять же, но я говорю, что я могу говорить про это до утра, но есть ещё такая история, что представь себе, что у тебя есть десять мониторов, и ты на каждом из них что-нибудь пишешь, десять консолей, пока там LLM тупит. Вот и голосом это делать не так удобно. Да, тот же, кстати, Steinberg, он говорит, что он систематически путается в каком терминале у него чего происходит.

Валентин Малых 1:05:45
Windows, я вообще не могу понять, как и что мы его слушаем. Ну, правда, человек, который на Windows программирует.

Дмитрий Колодезев 1:05:52
что Слушай, он на самом деле куча толковых вещей при этом говорит. Ну, у человека родовая травма, он под Windows вырос, но это не делает его совсем бесполезным. Вот, ну, надо терпимость проявлять, diversity, понимаешь, у некоторых другая ориентация, да, да. Вот, они тоже полезны. Вот и у голосового интерфейса есть свои ограничения, свои плюсы и свои минусы, то есть короткая петля обратной связи. Синхронная коммуникация, да, то есть ты вынужден дослушать. То есть, например, когда мне звонят боты, а мне на рабочий телефон звонят почти исключительно боты, вот меня бесит, что они вместо того, чтобы прислать мне спам, который я могу быстро отсканировать и отказаться, да, вот требуют. А чтобы я дослушал до того момента, пока я пойму, что это спам. Да, и вот в этом смысле у голосового интерфейса есть свои ограничения. Вот, есть, конечно, и преимущества. И самое главное преимущество — это когда у тебя заняты руки. То есть, например, ты вспомнил водителей. Да, как раз люди, много проводящие время за рулем, они есть главные любители голосовых. Вот, то есть, например, у меня сестра по техническим причинам, а когда в дороге она шлёт мне голосовых, ей просто неудобно писать. Вот и поэтому голосовой интерфейс удобен, когда у тебя руки не за клавиатурой. Вот насколько это удобно при программировании, наверное, это неудобно, потому что каждый символ может иметь значение. Вот при подготовке документов или в ситуационной комнате, когда ты стоишь перед дисплеем, говоришь в голос чего ты хочешь. Мы, кстати, год назад делали такую систему для одной большой организации. Этот человек стоит перед дисплеем и говорит, «Так, вот это окошко открыли, вот это закрыли, да, покажите мне моего зама». Вот, а что у него там творится? Ничего, нормально, то есть голос, у голоса есть свой. Так сказать, use case, свои сценарии использования. Но для большинства людей говорить восемь часов в день просто физически тяжело. Согласен.

Валентин Малых 1:08:10
Восемь, на самом деле, я тоже после трёх часов уже мне надо отдыхать. Я не могу больше трёх часов говорить подряд, это всё-таки сложно. Но не уверен, что там предполагается именно восемь часов непрерывно, да, то есть ты же дал команду и потом получаешь сигнал некоторый.

Дмитрий Колодезев 1:08:25
Да, и вот тут прекрасная российская компания на букву «Я» обещала наушники, в которые можно и слушать музыку, и беседовать с ассистентом. То есть говорить ему вслух и получать ответы. Я даже записался на бета-тестирование, но меня пока не позвали.

Валентин Малых 1:08:43
Нет, это здорово. Было бы интересно смотреть, что это такое. А насколько я представляю, что-то подобное уже делают Apple и делали какие-то чуваки, у которых с ними был. Судебный иск, помнишь, это было прошлым летом, в середине января, как пелась песня. Вот, интересно, чем, кстати, всё закончилось. Может быть, ничем не закончилось, а тут такой раз, и вот эта компания на букву «Я» неожиданно выпрыгнула из тумана. Следующая новость у нас. На самом деле, я её взял чисто исключительно потому, что она так сформулирована, что мне хочется как-то прокомментировать. Просто я тоже читал это исследование, и у меня есть что сказать по этому поводу. Значит, смурлировано это так, что... Курсор показал пять графиков, которые хоронят все публичные и бенчмарки для кода. Ну, как какой-то слишком сильный, как это называется, не хайповый, а как кликбейтный заголовок. Вот, слишком сильный кликбейтный заголовок. И на самом деле всё, что показал. В курсоре они ничего страшного не показали, они просто показали, что да, у нас есть некоторый трейд-офф по поводу качества и токенов. Но если это для кого-то представляется какой-то новостью, ну, я тут даже не знаю, то есть, потому что... Достаточно очевидно, что у нас есть некоторое количество. Разных параметров. Вот сейчас одним из важных параметров, кстати, не единственным, является количество токенов. И более того, мы сейчас, к сожалению, сейчас уже нельзя присоединиться, но мы конкретно сейчас заканчиваем соревнования по тому, чтобы сделать более сжатые промпты для выполнения тех же самых задач. Проблема того, что тратится много, много-много токенов на выполнение, в общем-то, понятных задач, она в человечестве осознанная и существует. Зачем вот этот вот кликбейтный заголовок, мне неясно.

Дмитрий Колодезев 1:10:40
Слушай, ну я присоединяюсь к предыдущему оратору. Заголовок Крик Бейтни, то, что они тут пытаются сказать авторы статьи, это называется Pareto front, то есть при определенных ограничениях, в зависимости от того, какие ограничения у нас случились, она ставили на историю, может быть, оптимальна. Но вот что у меня вызывает вопрос, то что Pareto front тут рисует оптимальный кодекс везде. То есть у нас GPT находится на Pareto front, это немножко не совпадает с моими ощущениями и с общей ситуацией на рынке.

Валентин Малых 1:11:16
А тут же это внутренний бенчмарк Cursor, то есть это Cursor сделал свой бенчмарк, поэтому к нему есть некоторое, не то чтобы совсем недоверие, но некоторые.

Дмитрий Колодезев 1:11:25
Да, и вот тут как не вспомнить девятнадцатый век и сравнение алгоритмов машинного обучения, когда, например, сравнивали градиентные бустинги. Тут же есть такая история, что при том, что некоторые градиентные бустинги сильно быстрее, некоторые градиентные бустинги сильно умнее, да, по большому счёту, если у тебя достаточно данных, любой алгоритм градиентного бустинга выдаст тебе примерно одно и то же. Вот, просто он может сделать это за 10 минут или за 4 часа. Ну, примерно то же самое. И куча исследований было, в которых тот или иной бустинг, он работал лучше, допустим. И везде потом выходили какие-нибудь исследования, что ребята, ну вот здесь вы не подкрутили вот эти вот параметры, да, здесь вы не сделали вот это, то есть, грубо говоря. Люди выкрутили параметры оптимальным для одного алгоритма способом, и естественно, неожиданно, никто бы этого не подумал, он с этими параметрами победил. То есть, возможно, что просто тут они понимают, как GPT крутить, чтобы он нормально работал, а OPS, например, не понимает.

Валентин Малых 1:12:37
Ну, я думаю, что это вопрос скорее benchmark, нежели даже модели, то есть они выстрелили какой-то benchmark.

Дмитрий Колодезев 1:12:44
И, кстати, на слайдах слово Pareto frontier, то есть Pareto front, о котором я говорил, оно встречается.

Валентин Малых 1:12:50
Нет, тогда это же классическая Pareto optimality. Все, у кого была экономика на уровне семестрового курса, уже представляют, о чём я говорю. То есть это не совершенно такая.

Дмитрий Колодезев 1:13:02
Да, а вот я вспомнил другой бенчмарк. Дело в том, что тут ребята проводили исследования. Давали LLM заведомо, просили от LLM заведомую фигню. И измеряли, в каком проценте случаев LLM говорит, да фигня это, блин. В каком проценте она говорит, да, конечно, фигня, но вот, может быть, ты это имел в виду. А в каком она уверенно отвечает на вопрос, да? И вот в этом bullshit benchmark. Выигрывал с огромным отрывом Anthropic с своими моделями, затем шел неожиданно Qwen. Вот, а GPT С удовольствием отвечал на две трети. Таких вопросов, на которые нельзя было ответить. И вот это как вот тот benchmark как раз здорово совпадал с тем, как я это чувствую. То есть у меня отлично работает Claude и на самом деле Qwen на технических задачах. Вот, ну, возможно, просто я больше глупостей в неё спрашиваю.

Валентин Малых 1:14:20
OpenAI запустили такое соревнование, как Parameter Golf. Это про то, чтобы маленькую модельку натренировать на фиксированном бюджете. Но прекрасно тут не то, что они запустили. Запустили хорошо, молодцы, большое им спасибо. А то, что они в их репозитории. Депозиторий, подчёркиваю, OpenAI. Основным контрибутором, ну не самым первым, но на третьем месте является Claude. То есть, ну тут я даже не знаю, как прокомментировать. Это прямо настолько хорошо, что тут реально просто только руками развести. Ну, просто на самом деле Claude хорош. Да, Claude замечательный. Я тоже им чудесно с удовольствием пользуюсь. Даже не обязательно с Claude, с моделями Anthropic. Вполне себе сама по себе вот эта вот концепция, да, вот такого помощника, который работает у тебя в IDE, лично мне очень, очень близко оказалось. И я как раз вот агента в этом смысле прекрасно использую, и он мне действительно удобен. Но такая вещь, как dog fooding, её же в конце концов в Америке придумали. Да, ну почему так-то, граждане?

Дмитрий Колодезев 1:15:36
Ну, не зря же как раз OpenAI недавно тут объявили, что ребята, давайте бросать заниматься фигней и нормально делать кодирование, а то мы рынок проигрываем Anthropic.

Валентин Малых 1:15:51
Ага, ага, видимо, они внутри уже проиграли. Что сказать? Ладно, я думаю, тогда будем завершать. Спасибо, что послушали. Обязательно подписывайтесь на нас на всех площадках, где слышите. Видите, у нас есть подкастные площадки и, соответственно, YouTube и ВК. Заходите в Mattermost и обязательно подавайте доклады на DataFest. Надеюсь, что там сможем с кем-нибудь увидеться. Да, всех очень ждём. Да, тогда всем пока-пока.