Капитанский мостик 2-9

Девятый выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки

• Youtube
• RuTube
• VK Video
• Дзен
• Звук
• Аудио
• Канал для вопросов в mattermost ODS.AI
• Как попасть в чат ODS.AI

Содержание

• 00:00:00 Начало
• 00:01:46 Агент удалил домашки
• 00:23:17 Anthropic и Пентагон (опять)
• 00:29:07 GPT на ПЛИС
• 00:34:49 Эволюция кернелов
• 00:40:34 ChatGPT удалили
• 00:53:28 ИИ против рабочих
• 01:07:39 Агенты против лицензий
• 01:21:11 Claude Code c нуля
• 01:26:50 AI поборол SaaS
• 01:34:56 Суд за человеков

Валентин Малых 0:00
Всем привет! С вами, как всегда, Валентин Малых и Дмитрий Колодезев. В нашем новом выпуске «Капитанского мостика» у нас сегодня замечательный гость Татьяна Шаврина. Я считаю, вот сейчас Таня мне скажет, что я не прав, но я считаю, что Таня это ролевая модель для многих девушек в нашей индустрии. Я считаю, что это прям суперклассно, ты большой молодец, и мы очень рады, что ты к нам пришла.

Татьяна Шаврина 0:26
Вот, всем привет! Очень рада быть здесь. На самом деле, интересно, что ты так сразу сказал, что как бы я не соглашусь. Может, я соглашусь, но не знаю почему заранее. Нет, из скромности надо, конечно. Ну, нет, не всё, что я делаю, я готова подписаться, что я ролевая модель, как бы, ну вот, не знаю, может быть, просто после сегодняшнего разговора кто-то уточнит. Да, у меня, знаешь, как иногда я пишу в свой блок, и когда я не пишу, обычно люди там подписываются. То есть, если я неделю не пишу, у меня может быть там плюс сто подписчиков. Если я напишу пост, в котором именно я выражу непосредственно свою какую-нибудь позицию, минус двадцать человек, стабильно.

Дмитрий Колодезев 1:11
Ну, говорят, говорят, это мир так устроен, в смысле, что это у всех так просто.

Валентин Малых 1:17
Мне кажется, ты знаешь, что есть некий образ, к которому люди тянутся, а потом оказывается, что этим образом есть человек, и это как бы большое разочарование на самом деле.

Татьяна Шаврина 1:26
Ну вот-вот, видишь как, ну вот чем мы и будем, видимо, сегодня заниматься.

Валентин Малых 1:30
Но прежде чем мы начнём, я всё равно хочу всех наших слушательниц поздравить. Восьмое марта мы как раз выйдем на восьмое марта, так что всех поздравляем. Очень рады, что вы вместе с нами двигаете эту индустрию. Круто, что вы есть. Да, да, большое вам спасибо. Начать я бы сегодня хотел с новости от. Алексей Григорьев, это человек известен тем, что делает довольно много курсов по Data Science. Я, честно говоря, особо с ними не знаком, но вот Дима говорит, что знакомый, знает много людей, кто их проходил. Так что Алексею большое спасибо, но сегодня мы не ради этого собрались, а ради того, чтобы Послушать его грустную историю, как ему Claude dropped production base. Просто он решил там что-то пообновлять, и оно там бах, и всё, всё дропнулось. Такая у него грустная история. История с счастливым концом. Сразу скажу, что он смог из холодного бэкапа восстановить. Как я понял из обсуждения, у AWS есть бэкап где-то на лентах, а ленты — это штука медленная, поэтому они просто не успели удалить бэкап, и он из него смог продакшн базового восстановить. Вот, но просто к вопросу о том, насколько хорошо у нас работают агенты и как с ними вообще жить.

Татьяна Шаврина 2:52
Ну, мне кажется, что агенты сейчас они ещё в таком, как бы, не очень зрелом состоянии, да, так что можно сказать, что это, как бы, вещь совершенно ожидаемая. Да и мы все знаем, что, как бы, есть всегда маленькая вероятность, что Claude, либо кто-либо ещё другой агент нам дропнет базу. Но, как правило, мы просто думаем, что, наверное, с нами это не произойдёт. Да, вот как психологически люди очень плохие в оценке маловероятных событий, да, особенно вот таких, и как бы склонны мы это всё преуменьшать. А потом, когда это действительно происходит, ну вот, мы очень-очень сильно удивлены, так скажем, поражены нашей неудачей. Вот. Ну, в некотором роде, вот я не знаю, у меня проблемы с агентами как раз по этой части, да, хотя я уже, по сути, два года занимаюсь непосредственно только ЛЛМ-агентами и их там какими-то фронтирными способностями. Всё, что касается environment, всё, что касается, там, Docker management. Всё, что касается каких-то ещё контейнеров, внутренней инфраструктуры, оно всё не работает. Вот у меня такое впечатление. То есть, когда мне надо сделать что-то очень простое, что, в принципе, я бы сама сделала за пять минут, но просто мне лень. Я лучше эти пять минут буду смотреть, как агент работает, тогда да. А если мне надо что-то установить, мне надо что-то запустить именно за сетапить с нуля, то в том числе с базами данных. Я просто, может быть, меньше работаю сейчас с базами данных, но вот всё, что касается AWS и любой внутренней инфры, это просто, ну честно, я считаю, что там нужны совершенно другие guardrails и совершенно другого уровня. Которые будут вот всех этих агентов условно вот отстреливать просто как бы как только вот какие-то опасные действия начинаются. Ну, вообще, честно говоря, как бы опасных действий необратимых, их ограниченное количество, правда же.

Валентин Малых 4:44
Ну, нет, я не согласен. Ну, слушай, когда я был молодой, хотел сказать, ну, я уже в целом не настолько молод, конечно, да. Вот, ну когда-то я был моложе, давайте так, давайте так. Вот. Мы просто у нас на подкасте традиционная шутка, что мы с Димой с 18 века, Дима ещё 17-й видел, а я только 18-й. Вот, но суть не в этом. Суть в том, что когда вот как раз на заре 18-го века, где-то в начале 2000-х годов, когда я начинал работать, соответственно, в качестве системного администратора. Была очень популярная, я даже не знаю, как это назвать, шутка-нешутка, на тему того, что тебе присылают, соответственно, некую зашифрованную строку.

Татьяна Шаврина 5:29
Ага, и там скрипт на перле, и там rm -rf /, ну типа такого.

Валентин Малых 5:33
Ministry of Digital Development — root, да, от root. То есть, как бы, в этом смысле количество опасных действий не ограничено, потому что ты не понимаешь, как бы, чему они идут даже без опускации.

Татьяна Шаврина 5:44
Не, ну подожди, подожди, уже как бы на уровне, когда оно расшифровано, ну ты как бы можешь запретить, чтобы от агента нельзя было сделать rm -rf?

Валентин Малых 5:52
Так в том-то и дело, что ты тогда должна запретить ему первым.

Дмитрий Колодезев 5:54
Нет, смотри, Влад, тут же проблема конкретнее. Есть права на определённые действия, да. В Amazon, вот это вот IAM identity, да, и у этой конкретно роли, которой ходил агент, было право не только удалять бэкапы, но и удалять snapshots. То есть, зачем ему право удалять snapshots? То есть, при каких обстоятельствах ему может понадобиться? То есть, это просто. Которые ты ему даёшь. И тут дело это не в агенте, агент не виноват. Точно так же Джун мог совершить эту ошибку. То есть, давно отработанная техника, ты даёшь самые минимальные права, которые нужны. Это правда, знаешь, как флосс зубной. То есть, все знают, никто так не делает, но в общем, техника известна.

Татьяна Шаврина 6:44
Как обычно, между удобством и катастрофой, да, как бы мы пытаемся найти какой-то баланс. Мне кажется, что а почему бы нам вообще не сделать третий тип? Да, у нас есть там. Супер-юзер у нас есть юзеры, у нас может быть пользователь-агент, и у него будет отдельный набор прав, да, как бы, вот в некотором роде, который вот серединка наполовинку. Да, что вот для некоторых вещей, может быть, и можно им даже использовать sudo именно для удобства, там для установки, может, что-то нового, а там для удаления базы, для того, чтобы там, я не знаю, ходить в интернет, может быть, там бы как-то всё более ограничено.

Дмитрий Колодезев 7:22
На прошлой неделе как раз Claude создал полный набор отдельных пользователей во всех сервисах и авторизовал его с виртуалки туда.

Валентин Малых 7:33
Обычно все ленятся делать нормальные права. В этом проблема же. То есть проблема-то не в агентах. Ну, как бы, как говорил ныне покойный Джордж Карлин, «planet is fine», то есть планета в порядке, да. То есть у нас. Проблема-то не в том, что агенты плохие, а агенты просто, как бы, как бы это объяснить, не ведают, что творят. В том смысле, что у них нет никакой рефлексии, они просто что-то делают, да, они делают то, что и, как бы, воспроизводя какие-то паттерны. А отвечать за эти действия должен человек, который понимает, что они могут сделать, и, как ты правильно говоришь, приостановить какие-то guardrails, да, не пускать, не ходить вот за этот забор, да, и ходить только вот в эту сторону. Но любишь Гнивые, и поэтому все просто, а там полные права, пусть он это самое, пусть он делает, что хочет.

Татьяна Шаврина 8:19
А я думаю, что это не только лень, я думаю, что это социальное давление ещё. У меня может быть какой-то ресентимент от работы с американским офисом, причём во многих компаниях уже, но у меня есть чёткое ощущение, что вот есть какое-то социальное давление культуры, там, Сан-Франциско, условно. Если ты не vibe coding, ты лох. Просто это как бы, если ты там старорежимно пытаешься сделать какие-то права, ограничить, если ты реально думаешь про безопасность, ну ты просто как бы, ты не с нами, ты не крутой, ты короче, вот всё с тобой понятно, как бы, и какое-то огромное количество вот этого. Бро-культуры, я даже не знаю, как это сказать, да, которые давят на людей. Я вижу, как люди, которые могли бы, в принципе, в других условиях совершенно способны чуть-чуть побольше подумать относительно того, как бы, а что будет, если я дам агенту эти права? Они просто всё дают, как бы, пожалуйста, вот везде авторизация, как бы, сразу, просто чтобы это побыстрее заработало, быстрее износетапить, и потом, ой, случайно все e-mail удалины. Это тоже был в прессе недавно случай.

Валентин Малых 9:24
Да, мы обсуждали, да. Ну, собственно, вроде Коля справился и не развелся таки, это хорошо. Да, ну. Всяко бывает. Я про тот случай, где я, соответственно, удалил фотки жены.

Татьяна Шаврина 9:39
А, да, я про тот случай, когда вот там был AI Safety директор из Меты. Да, и у неё всю почту удалил.

Валентин Малых 9:49
И safety, вот это вот просто настолько хорошо, что прям вот всё-все как было так хорошо в первый раз.

Татьяна Шаврина 9:57
Какие-то есть там пробелы. Это человек, который непосредственно этим занимается много лет. Да, но вот такая среда сейчас, что надо всё пробовать быстрее, надо быть там AI-native, а иначе тебя вот просто заклеймят, как Luddite какого-то, и вот результат. Слушай, ну мне кажется, что эта культура, она...

Валентин Малых 10:21
Имеет свои плюсы в том смысле, что действительно всё довольно быстро двигается. Собственно, Mark Zuckerberg, по крайней мере, переписывается ему фраза. Я её из фильма «Социальная сеть», взял. Насколько это правда, я не знаю. Он сказал, что move fast and break things, да, то есть двигайся быстро и ломай вещи, то есть надо быстро-быстро бежать. Это действительно имеет свои плюсы, но в какой-то момент минусы начинают перевешивать, да, то есть кажется, что когда мы говорим про агентов, быстрая адаптация Какому-то твоему личному рабочему пространству, ну то есть, если ты со своей личной почтой работаешь, ты можешь её спокойно дарить, то всё окей. Но если мы говорим про бизнес-применение, то тут всё-таки нужны какие-то скучные дядьки в пиджаках, которые будут долго и мудо настраивать права, мне так кажется.

Татьяна Шаврина 11:07
Ну вот да-да-да, вспоминается мем, там если ботинки твоего шефа выглядят так, то у тебя всё будет хорошо с job security ближайшие десять лет, да, вот как бы такие люди нужны. И мы немножко отходим от темы этой новости, но, честно говоря, часть вот этой культуры — это, ну что, по сути, бесконечное масштабирование, быстро масштабировать любой прототип, а дальше уже решать, что с ним делать. Как его посмотреть, как его использовать? Да, ну не во всех областях эта логика должна быть применена. Вот в областях, где есть. infosecurity вопросы в областях, где есть там вопросы. Юридические вопросы, медицины, там, где цена ошибка, ошибки очень высока. Может быть, и не надо её применять. Почему она должна? Так, ко всему быть приложено. В этом смысле, мне кажется, что вот этот подход, он непосредственно везде, он такой главенствующий совершенно. Вот мы должны, вот мы не знаем, ну мы знаем даже, как LLM работают, да и вот мы везде применим агентов, мы знаем, какие есть проблемы, но пофиг, мы всё равно хотим просто выйти на максимальное количество пользователей сразу. А потом уже думать про guardrails, и вот это. Вот этот способ думать, так как говорят некоторые, значит, про проблему, он ведёт к очень логичным проблемам. Все проблемы, которые там были у Grok, про там генерацию эротики с несовершеннолетними, вот всё было как бы. Неужели нельзя было про это подумать? Ну, конечно, можно было. И это причём, guardrails, там, я не знаю, ну неделю, ну максимум две недели, ладно, мы сделали бы. Ну, просто вот пофиг, да.

Валентин Малых 12:45
Слушайте, ну тут, извините, тут есть, знаешь, вот мы с коллегами обедали недавно, да, и там одна коллега рассказала про Книгу, я тут пересказываю с её слов, потому что я сам книгу не читал, но можете думать, что я вообще, да-да, что я сейчас это как Рабинович напел это в вашем повороте, вот, может, я всё переврал, да, ну вот. И не проиграл, а выиграл, да, и не в шахтатый, а в карту. Да-да-да, соответственно, но звучало так, что даже в медицинских исследованиях, когда делают, соответственно, исследования новых препаратов, особенно не думают о том, как, допустим, новый препарат повлияет на женский организм. Да, что все почему-то тестируют только на мужчинах. Опять же, это я пересказываю.

Татьяна Шаврина 13:35
Восьмой марта, да, у нас как бы, поэтому у нас разговоры, да, про восьмой марта, про женские права, в общем-то. Когда говорят, что там, вот вы же уже там достигли равенства, бла-бла-бла, всего такого, да ни хрена подобного, прямо скажем. Да, как бы в огромном пласте исследований даже мы ещё не подошли к тому, чтобы женщины были представлены и что-то делалось для них. Огромное количество от дизайна промышленных объектов. Разработки лекарств непосредственно и медицинских исследований, вообще женщин затрагивают очень мало. Я уже даже не говорю о том, что краш-тесты с женскими манекенами. Стали делать совсем недавно, мне кажется, года три назад. До этого вообще не делали, а у женщин повышенный риск травм. То есть делали там краш-тесты на мужиках, и вроде, наверное, на мужиках проходят, условно, а на женщинах нет, на женщинах на самом деле не прошел бы. Вот и там переломы очень тяжелые, как бы в том числе. Вот про женскую безопасность в этом смысле, как бы, только совсем недавно, это буквально вот там три года назад начали думать. Но про медицину, про медицину вообще очень плохо. Во-первых, у нас есть проблема избирательного финансирования, да, чего дальше финансировать. И там есть проблемы, которые там условно мужские, косметические, они финансируются, а есть женские, фундаментальные, они не финансируются. Там, я не знаю, от борьбы с облысением и там что только ещё, как бы там миллион исследований, миллион, там миллионный фандинг каждый год. А почему эндометриоз, мы не знаем. А это очень серьёзное заболевание, причём как бы достаточно распространённое. Но про препараты конкретно, там проблема такая, что мы хотим набрать вот некоторую группу репрезентативную подопытных, да, условно, и вот на них тестировать. Ну, там желательно, чтобы они были здоровы, да, всё как бы, чтобы чистый был эксперимент. Если ты в эту группу добавляешь женщин, то у тебя добавляется фактор изменения гормонального фона в течение месяца. И этот фактор достаточно существенный, и его просто для простоты эксперимента исключают. В результате оказывается, что, например, на женщин не действует или плохо действует обезбол, потому что делали только на мужчинах а уровень прогестерона. Разные дни месяца разные, и он препятствует работе препарата и так далее. Ну, как бы, и это во многих областях, то есть. Про бейсболы-то я сейчас знаю, например, потому что я только из больницы, а в остальных я даже ещё не успела столкнуться с этим всем. И то вот это in your face, абсолютно. То есть все эти препараты на беременных, на кормящих, естественно, тоже ничего не тестируется, поэтому многие препараты просто сразу запрещают и говорят, что ребята, да, у вас там проблемы со здоровьем, но лекарства мы вам не дадим, потому что мы не знаем, что будет. Ну, это всё. Терпите. Ну ладно, давайте, да, какую-нибудь более позитивную тему. Да-да-да, мы так уже это. Ну, я надеюсь, что я смогла, как бы, обосновать, почему это важно. Ну, в общем, эта проблема совершенно так. Это и недофинансирование, это ещё и просто сложность проведения экспериментов, которые стараются тоже не заморачиваться в такой логике.

Валентин Малых 16:56
Да, ну вот про сложность проведения экспериментов. Спасибо. Я вот об этом не задумывался, что это именно сложность проведения экспериментов. А вообще, да, конечно, это важно. Но хотя казалось бы, уж биологи должны себе представлять, что у женщин меняется гормональный фон. Это, как бы, какие базовые вещи. И именно поэтому они не заморачиваются. Это для меня важное осознание. Но, кстати, я тут хочу вкинуть такую вещь по поводу того, что на самом деле, когда мы говорим про женщин, что женщинам мало уделяется, на самом деле. Нас в целом не особо принято думать. По поводу того, что люди разные, я поясню, что имею в виду, что почему-то принято думать, что все люди примерно сферические вакуумы. Да, то есть у нас есть сферический вакуум и человек, он входит в сферическую вакуум и работу, и у него всё сферически вакуум и хорошо. Но я на себе могу точно пронаблюдать. Там те, кто меня знает лично, знают, что я левша. И, соответственно, вот левше жить в этом мире несколько сложнее. Например, я не могу пользоваться ножницами для праворухих, потому что они неудобные для меня. Но это к вопросу о промышленном дизайне. Да, то есть, когда мы говорим о том, что у нас есть что-то, что должно работать на всех людях, есть большой шанс, что есть какая-то группа людей, про которую ты просто не подумал, которая, соответственно, будет этим дизайном недовольна. Это действительно большая проблема, но как её решать? Понятно, что мы сейчас не придумаем, но, по моему взгляд, самое важное — это вовремя осознавать существующие проблемы и пытаться их итеративно решать.

Дмитрий Колодезев 18:28
Слушай, ну решение традиционно — это diversity в группах, принимающих решения, формулирующих требования. Если у вас при постановке теза не было ни одной женщины, ни одного левши, никто про это не вспомнит.

Валентин Малых 18:45
Так, а вопрос в том, что мы как бы вот эту вот постановку группы, которая принимает решение, это вообще говоря, она подбирается по факту. Да, но там условно говоря, вот есть начальники таких-то отделов, они там как-то подобрались. Вот если там я один левша затесался, это прикольно, да, а если нет, то есть как мы понять, что важно.

Дмитрий Колодезев 19:06
При планировании эксперимента, например, нормального эксперимента, ты пытаешься сделать так, чтобы тебе нужно было меньше контролировать, а всё, что нужно контролировать, было проконтролировано самим экспериментом. Да, вот. Ну то есть это просто про культуру. Проведение экспериментов, постановки задач и так далее — это банально, знаешь, как список рисков составить, посмотреть, кого это затронет. То есть, ну, мне кажется, это культура планирования и управления.

Валентин Малых 19:35
Ну, ты говоришь банально, это ни разу не банально. Знаешь, учитывая, как с какой тестотой это всё-таки делают, я бы сказал, что это не банальная совершенно история.

Дмитрий Колодезев 19:43
Ну, не банально, но всё равно надо. Я от себя скажу, что на самом деле мне в этом смысле проще. У меня трое детей, одна из них дочь и два, ха-ха, и левши тоже есть у меня среди детей, поэтому как бы я вот об этих вещах всё время думаю. Ты родил мне репрезентативную группу. Ну да, но у меня, правда, нет ни одного негра среди детей, поэтому всё равно.

Валентин Малых 20:09
Слушай, ну мне кажется, это твой недостаток, но он, к сожалению, генетически заложен, тут ничего не поделать.

Дмитрий Колодезев 20:15
Не знаю, я вообще-то до сих пор был доволен, но это так, это мой расизм, мне дочь расиста много.

Валентин Малых 20:21
Что значит какой-то вон? Да, ладно, я думаю, что здесь недопрошено.

Татьяна Шаврина 20:28
Да, про ВЭС поговорили, давайте дальше.

Валентин Малых 20:31
Не, ну так мы, по-моему, плавно перешли совершенно.

Татьяна Шаврина 20:34
Ну, кстати, с агентами можно симулировать такие штуки, мне кажется, по крайней мере, некоторые. И мне кажется, что во многих экспериментах, во многих исследованиях, можно сделать какой-то сбор сигнала. И там, если эксперимент, например, воспроизводимый, то это же зависит от того, какая была там контрольная группа, то это всё должно всплывать на этапе именно ещё подготовки.

Валентин Малых 20:55
Слушаю, с одной стороны, да, действительно, есть такие работы, где на агентах делают какие-то, ну там, маркетинговые исследования точно видел, социологические, по-моему, не видел, но я думаю, что и такое что-то есть. Но у меня вот всегда большой вопрос, а если они галлюцинируют? Да, вот, а если у вас вы принимаете свои решения на основе галлюцинации вот этих агентов? По-моему, вот это довольно серьёзный риск, и да, не очень осознаваю.

Татьяна Шаврина 21:22
Тут как бы есть два момента. Да, мы можем разделить все задачи на verifiable и unverifiable domain. Да, как правило, то есть есть задачи, в которых у нас чётенькие результаты, мы всегда можем сравнить, да-да, нет-нет. А есть вот которые вещи, как предпочтение, мнение, вот моделирование каких-то социальных вещей, они такие как бы, да, сложно их валидировать. А как правило, если это вот сложные задачи, там, я не знаю, математики, там экспериментов разных, они как раз верифицируемые. Но всё, что касается даже просто мнений, мне кажется, что эта задача, пусть она и хоть и... Но LLM с ней достаточно хорошо справляются. Да, то есть, как бы моделировать персонажа и какой-то набор мнений, мне кажется, LLM способны очень хорошо. То есть, можно сделать какие-то даже, я не знаю, маркетинговые исследования, да, и всё в таком духе. Как бы это может быть достаточно надёжно, но уж точно надёжнее, чем просто сразу выходить на людей.

Валентин Малых 22:27
Не, ну если выбирать между LLM и ничем, то, конечно, LLM гораздо лучше.

Дмитрий Колодезев 22:33
Слушай, я в завершении, так сказать, этой новости. У меня просто старший инженер сказал, что LLM, как-то меня поразил, LLM идеально применять там, где у нас идеально верифицируемый результат, или мы его вообще не собирались проверять? Полностью поддерживаю.

Валентин Малых 22:52
У меня буквально вчера был разговор на тему одной задачи по работе. Ко мне пришли коллеги и говорят, вот нам нужно сделать такую-то задачу. Ну, по-хорошему, эту задачу надо начать и кончить, примерно в течение 26 года, если всё остальное брошь. Я говорю, что ну парня, где-то если нам вообще не важны результаты, можно сделать вплоть, то за месяц справимся. Если надо сделать, то ну как бы извините, это другое. Следующая новость, довольно живучести. Все помнят, на прошлой неделе был большой скандал, что аж лично президент США запретил Anthropic в использовании. Для всех поставщиков Министерства войны, если я правильно помню. Но, в общем, суть не в этом. Суть в том, что буквально позавчера вышла, я не знаю, как это правильно назвать, эссе. Нечто, некое официальное заявление или официальное письмо можно назвать на сайте самого Anthropic, где они говорят, что они вообще в целом их не так поняли, и они очень даже хотят со всеми дружить, и всё хорошо. Это к вопросу о том, что... Как бы, подействовали ли санкции или нет? На мой взгляд, санкции вполне себе подействовали, потому что если тебе вдруг резко запрещают вообще со всеми поставщиками, поставщиков государственных, а таких, наверное, я не знаю, я не берусь это, конечно, оценить, но я думаю, что процент экономики, который так или иначе завязан на государства, даже в США, очень большой. Если тебе одновременно, единомоментно это всё отрезают, ну, как-то сразу становится очень грустно.

Татьяна Шаврина 24:25
Знаешь, не моя тема, но выскажешься, да, как говорится, да, естественно.

Валентин Малых 24:29
У нас сегодня 8 марта, в конце концов, давайте поговорим про все темы.

Татьяна Шаврина 24:33
Супер, да, Hot take, Anthropic и OpenAI совершенно одинаковые. Разницы между ними никакой нет. Они совершенно одинаково, как и все американские крупные корпорации, пытаются как можно больше труду устроить. Чиновников из разных администраций американских президентов, половина бывшей администрации Обамы, Байдена и люди из администрации Трампа устроены там везде. На крупных высоких должностях, в том числе с техническими должностями, но технической работой они не занимаются. Они занимаются лоббированием и GR, Government Relations. Они совершенно ничем не отличаются, кроме пиара, по сути. И процессы совершенно такие же, как и в некоторых других странах мы можем наблюдать. Это вот сращение государства и капитала. Естественно, они хотят американский военный бюджет, потому что когда все остальные инвестиции будут. Подсыхать, будут остальные как бы инвестиции сворачиваться. Это огромный пирог, где даже маленький кусок, это как бы. Будущие дата-центры — это как бы всё. Но у Anthropic при этом, как бы, они как бы это делают именно чтобы не проиграть OpenAI, да, понятное дело. Я не думаю, что сейчас это у них действительно какой-то очень большой кусок их текущего пирога. Я как бы сейчас не могу точно представить, но вообще говоря, у Anthropic. Гораздо больше трафика — это B2B. Он выигрывает OpenAI в B2B подчистую, и самая большая часть трафика, естественно, это кодинг агенты. Я не знаю, насколько там именно упор на кодинг агенты у Министерства войны, может, да, может, нет. Но то, что Anthropic выигрывает в B2B и проигрывает там в B2C, приводит к тому, что на самом деле основные платящие корпоративные клиенты, они на Anthropic все сидят. И это не государственные клиенты.

Валентин Малых 26:37
Так в том-то и дело, там же проблема-то в чём? Что, по крайней мере, как было сформулировано, опять же, может быть, я тут понял, что всё не так, но смысл был в том, что если какой-то поставщик, поставщика даже на государство, ну, возьмём условную корпорацию Microsoft, да, я не знаю, пользуется ли Microsoft услугой компании Anthropic, я сейчас не знаю, предположим, что пользуют.

Татьяна Шаврина 26:56
Наверное, нет, они же в OpenAI инвестировали столько.

Валентин Малых 26:59
Ну, неважно, возьмём другую корпорацию, там Oracle, какую хотите. Соответственно, и там идея в чём? Что если у нас в основном B2B-шный трафик, то так или иначе, большая корпорация будет завязана на государственные контракты через что-то. И если мы требуем от всех поставщиков-поставщиков по всему дереву не работать с этой корпорацией, то Anthropic как раз очень даже, мне кажется, именно Anthropic стало гораздо хуже.

Татьяна Шаврина 27:26
Ну, возможно, да. Возможно, ты прав. Сложно представить какой-то процент, но как будто бы это уже такие нерыночные механизмы конкуренции, которые все пытаются задействовать, в том числе нанимая всех этих людей из администрации. Это, конечно, очень большой админресурс, за счёт которого это делается.

Валентин Малых 27:46
Классический, собственно, способ ведения бизнеса в США. Исторически, там сколько времени есть. Ну, в США он просто как бы легализован в каком-то смысле, да. То есть у них есть само понятие лоббизма, в других местах оно немножко тушуется, скажем так.

Татьяна Шаврина 28:02
Ну да, ну здесь в Британии, мне кажется, OpenAI нанимали какого-то бывшего министра даже. Ну, это же святое тут, понимаешь?

Валентин Малых 28:10
Уважаемые люди называют уважаемых людей, всё-всё-всё хорошо.

Дмитрий Колодезев 28:13
Тоже на самом деле, что тут скажешь. Единственное, что есть же в связи с текущей войной на Ближнем Востоке мнение, что её планировал как раз Клод. Вот, и он нагалюцинировал, что она за три дня кончится, а она не очень.

Валентин Малых 28:34
Это жестоко, это жестокая шутка, San Vore.

Дмитрий Колодезев 28:36
Это не шутка, это мнение уже ходит, его уже обсуждают, не я приду.

Валентин Малых 28:43
Ладно, да, это прямо от души просто. Так, понимаешь, вот это как раз получилось. Их же разбомбили в ОАЭ, точно, и, по-моему, ещё где-то чуть ли не в Сордуске Орлен. Конечно, завтра.

Татьяна Шаврина 28:59
Всё-таки сторонники Юдковского добились своего.

Валентин Малых 29:03
Да, Yudkowsky в этом смысле опасный человек, предвидел, можно сказать, будущее. Немножко отвлечемся от текущих реалий. Мы несколько отпусков назад обсуждали такое железо, куда прямо прожигается, прямо внутрь железа, какая-то нейросетка, да, какая-то LLMs, я не помню, что там было, но это, наверное, и не важно. А тут один довольно известный в устных кругах человек запилил, собственно, сейчас объясню, что есть такая штука. Она называется FPGA. FPGA — это Программируемая плата, в которой на самом деле вот эти все железные вещи, они не как бы не полностью прожены, да, то есть у нас там не... Выправлено это в железе, да, а можно логически задавать логику, которую будет исполнять чип. Я понимаю, что этот чип довольно сложно, но суть в том, что, допустим, мы хотим, чтобы у нас чип занимался сложением, мы просто пишем в файлики, что типа вот здесь у тебя будет плюсик, а хотим, чтобы занимался Не знаю, там умножением пишем, соответственно, умножение. И вот это всё можно переконфигурировать, только для этого нужно написать фактически прошивку. И вот этот человек написал прошивку для того, чтобы маленькую трансформерную модельку на небольшую FPGA карточку залить. Почему это, на мой взгляд, важно? Почему вообще сейчас это обсуждаем? Потому что кажется, что это довольно такая магистральная дорога. Да, то есть, если у нас будут достаточно большие LLMs, то там, соответственно, можно будет прожигать туда большие достаточные LLMs, которые будут непосредственно работать прямо в железе и на этом довольно сильно экономить. Вот у меня такая вот гипотеза.

Татьяна Шаврина 30:47
Ну, мне кажется, что любая оптимизация такого рода, она максимально востребована сейчас. И будет востребовано ещё, как бы с точки зрения общего прогресса нейросеток, да, хочется всегда иметь. И то, и то. То есть мы хотим и инвестировать в новые методы, и максимально экспериментировать с архитектурами, и разные пробовать, да, как бы на одном конце медали. Но это делается, как бы, уже так очень верхнеуровнево, да, уже там на питоне. Условно, но при этом мы хотим для более зрелых архитектур, безусловно, мы хотим низкоуровневую оптимизацию. Мне кажется, что это очень востребовано. И это сто процентов, как бы, новые архитектуры, написанные на питоне, там сменяются в год по десять штук. А вот такие вещи низкоуровневые, они будут востребованы годами.

Дмитрий Колодезев 31:32
Ну, там история была в том, что мы как раз обсуждали решение, где люди залили в ASIC LLaMA и получили на порядок больше токенов в секунду, чем делает вафля от Cerebras. Ну, у Cerebras другая логика совсем. И вот такое энергопотребление, понимаешь? То есть получается, что ты имеешь дикую. Производительность, правда, контекст не очень длинный, но всё равно это такое устройство размером с зажигалку, да, и оно сервит LLaMA. И у него единственная проблема, что ты ничего туда больше не загонишь. То есть ты этот ASIC спроектировал, у него цикл проектирования полгода, через полгода ты его получил. Не очень интересно, да, получать полугодовой давности модельку. А если мы, допустим, в какого-нибудь робота? Встраивает, но хорошо бы там иметь модельку, которую можно было обновлять, да. И вот обновлять и быстро инфресить пока видится только в FPGA, то есть по-русски. И есть достаточно мощные FPGA, то есть вот этот синтез был на маленьком игрушечном FPGA, за который там стоит типа 45 долларов или сколько там, ну, который можно купить поиграться, да. А есть же AMD-шные хорошие FPGA, большие прямо вот их. Я у Amazon в облаке их трогал, и туда, наверное, что-нибудь посерьезнее можно залезть.

Валентин Малых 32:53
Слушай, мне кажется, что тут ещё важно отметить, что если мы эту ситуацию немножко экстраполируем, мы вообще можем прийти к тому, что... У нас будут сервисные компании, которые просто продают. Вот вам железка, которая делает вот это. И мы имеем возможность этой железке обновить прошивку, и она будет работать достаточно хорошо. И в этом идее, что... Такие сервисные компании — это вполне себе такая реинкарнация какого-нибудь IBM образца 70-х годов, когда они подпоставляли и железо, и программное обеспечение. Да, то есть, без программного обеспечения железо IBM не мог использовать. И вот здесь, мне кажется, мы примерно к тому же придём просто из-за того, что это гораздо эффективнее, чем то, что сейчас есть с вот этими недоступными видеокартами. Да-да-да, это когда-нибудь мы к этому придём. Я уверен, что там, знаешь, на базаре парень не хочет свежую LLaMA.

Дмитрий Колодезев 33:50
Слушай, я в четверг беседовал вечером с одним нашим общим знакомым, который много занимается развитием сообщества. Он выкачал себе весь Qwen на всякий случай.

Валентин Малых 34:00
Все версии Qwen или только самый большой?

Дмитрий Колодезев 34:04
Три пятые весь, все веса. Просто сложу, а вдруг пропадёт.

Татьяна Шаврина 34:09
Ну, конечно, всё правильно. Я очень люблю. Хордить вообще любые датасеты, модели — это любовь. Скачал интернет и сидишь, доволен.

Дмитрий Колодезев 34:20
слуши Слушай, я однажды скачал интернет. Когда-то давно была такая библиотека, ну не Z-Library, я помню, а Mazda-Library, может быть, да. И когда на неё шли гонения, осталось в какой-то момент только четыре ноды во всём мире, которые её раздавали. Одна из них у меня стояла на втором этаже. Вот правильно. Да, а потом, когда их стало тридцать, я её погасил.

Валентин Малых 34:46
Когда кризис прошел, можно уже позволить. Тоже в эту сторону. История. Тут можно про наших коллег из AIRI сказать. Да, это они предложили, по-моему, это такой benchmark kernel EVO. То есть, эта идея в том, что генерировать kernels на CUDA, да, то есть, на всякий случай, если, опять же, кто-то вдруг не в курсе, как у нас всё происходит, когда мы говорим про inference нейросетей. То есть нейросеть написана на языке высокого уровня. Это, как правило, Python. Вот мы на Python, соответственно, её написали, а она у нас обучилась, у нас получились какие-то там операции и какие-то веса. Вот эти операции, они на самом деле реализуются не на железе, да, а они реализуются в виде некоторых. Программных процедур, которые написаны на языке уже достаточно низкого уровня, хотя тут опять большой вопрос, то считать языком высокого уровня, потому что это язык C фактически. Так вот, на языке CUDA они написаны, и дальше уже язык CUDA компилируется в некий ассемблер специальный для конкретной GPU. И здесь как раз история в том, что можно вот эти C-процедуры их оптимизировать, причём автоматически. На самом деле, это первые не коллеги из AIRI придумали, но то, что они сделали такую штуку, которая позволяет более или менее автоматически вот это вот оптимизировать, по-моему, это прекрасно, потому что это позволяет нам просто быстрее infer все модельки в некотором светлом будущем. Да, то есть мы можем. Приди к тому, что инфрацетамид сильно проще.

Татьяна Шаврина 36:26
Ну, вот мне кажется, что это отличный пример задачи для агента, на самом деле, потому что исходя... Проходя из того, что мы уже обсудили, это как раз верифицируемая, как бы, валидируемая задача. У неё есть очень объективные метрики, да, условно, что у тебя получилось и с каким качеством она работает. И самое главное, что, ну, в теории. Знаний человечества уже достаточно, как бы, чтобы агент смог это сделать, исходя из данных, которые есть, и там библиотек и так далее. Да, потому что часто бывает, что там написали, «О, там агент написал новый компилятор, но он получился очень медленный, но теперь агент может написать компилятор». У нас уже был компилятор. Ещё нового не произошло, да, как бы он уже был, и он был быстрый, да. То есть, как бы это такая, как бы, фронтирная задача. Но в рамках написания новых ядер, мне кажется, что это как раз очень хорошая задача, потому что это очень трудозатратная такая вещь, и можно её акселерировать существенно. И вроде как бы, вот как раз у нас уже и данных для этого достаточно, и метрики есть. Прекрасная задача.

Валентин Малых 37:32
Вот я, честно говоря, не согласен, что это для агентов, потому что. Я поясню, что я имею в виду, что на мой взгляд, тут именно задача сама по себе фиксирована, и агент тебе особо не нужен. Да, то есть, у тебя уже есть, как правило, плюс-минус все написанные ядра сейчас существуют. Я не говорю, что они в принципе все в природе уже написаны, это понятно, нет. Но все плюс-минус одни и те же ядра оптимизируют. То есть у нас здесь даже агент-то и не нужен, нам нужна просто некая среда, в которой мы загружаем код, как-то полученный, и пытаемся по нему итерировать.

Татьяна Шаврина 38:06
Ну, ты как бы хочешь это делать сам, просто может быть, некоторые не хотят это делать самостоятельно. Ну, как бы, среда у тебя есть для того, чтобы это автоматизировать. Для некоторых задач у тебя даже нет такой среды сейчас ещё пока, а здесь она прямо вот это уже дозрело до того момента, чтобы это можно было автоматизировать.

Дмитрий Колодезев 38:24
Есть ведь ещё один интересный кейс для автоматически генерируемых ядер. Дело в том, что Производительность, она же сферическая в вакууме, кому-то инференцирует. Какому-то учить, у кого-то специфическое железо, у кого-то специфическое энергопотребление. Вот если посмотреть на старые Unix-овские вычислительные системы, разные, написанные на тех же сях, ты его запускаешь, и он долго-долго, иногда по полдня гоняет тесты твоей вычислительной системы, потом говорит, а я поняла, и оптимизирует софт именно под твою вычислительную систему. То есть, так вот. Раньше так делали, например, да, и когда вычисления были очень медленные, то есть просто вот ты запускаешь компиляцию, хорошо, я полдня пожую, понять, как конкретно на твоей машине всё это быстро сделать. Вот, и вот тут у нас есть комбинация памяти, комбинация высших ресурсов вот этой шины и так далее и тому подобное. И может быть конкретно под конкретное наше устройство сели и подшаманили kernels, почему нет?

Валентин Малых 39:28
Я согласен, да. Тут мы ждём, наверное, знаешь, это уже тогда не для CUDA, а именно для какого-то конкретного программированного калькулятора, условно говоря. То есть когда-то давно, когда я работал уже не суть важного общения, у нас был движок машинного обучения, который для того, чтобы его гонять в продакшене. Просто из полученного файла нейросетевого, да, или там даже ещё нейросети были, неважно, он просто перегонялся в C-формат и компилировался. Да, то есть мы получали бинарник уже с запитым туда внутри всеми весами, и за счет этого было быстрее гораздо.

Татьяна Шаврина 40:09
Ну, ты знаешь, кстати, ещё может быть, что это именно неплохой шанс быстрее делать open-source ПО, которое на open-source железе.

Валентин Малых 40:17
А у нас сейчас будет про это. Сейчас про это думать, что ничего не буквально. Да, ты хочешь, может быть, избежать всех железячных вопросов, которые не опенсорсные, и ты можешь автоматически под них хорошо оптимизироваться. Это же классно! Интересно, гипотезу согласен. Согласен, абсолютно. Немножко отскочим назад. Таня на самом деле правильную позицию. Ну как правильную? Понятно, что я её просто разделяю, поэтому мне кажется правильной. Может быть, кто-то не согласен. Мы допускаем вообще возможность альтернативного мнения. Давайте с этого начнем. OpenAI и Anthropic особо не отличаются, но тем не менее общественное мнение существует. И в США на 300% фактически увеличилось количество удалений. ChatGPT после того, как OpenAI с Министерством обороны заключил контракт официально. На мой взгляд, это буквально говорить бы ни о чем, потому что хотелось бы посмотреть, сколько их было и сколько стало. Да, то есть, если их там, ну... Типа, ставили немножко, да, в смысле, удаляли немножко, а стали там, ну, удалять чуть-чуть больше. Ну, кого это по большому счету интересует? И интересно теперь, сколько людей Claude Code удалила после новости, что Anthropic хочет дружить с Министерством войны США. Вот я прямо жду следующей новости. К сожалению, пока ещё не было на момент записи.

Татьяна Шаврина 41:41
Ну вот мы как пользователи можем выбирать, да, как бы, что устанавливать на свой телефон, и кто за нами будет следить? Там Министерство обороны, Министерство войны США или китайские шпионы, как бы, вы можете выбирать, у вас есть свобода.

Валентин Малых 42:00
Шутка была бы смешной, если бы не была такой грустной, во-первых. Да-да-да, но просто. Уже где-то год назад я слушал интервью одного достаточно, на мой взгляд, разумного человека, и он говорил о том, что современный маркетинг из-за развития вот таких вот персональных ассистентов, вот то, что мы сейчас называем агентами, он умрет. Почему? Потому что агент Соответственно, тебе сходит и сравнит, ну, допустим, нужны тебе тапочки. Он сходит на какой-нибудь, соответственно, маркетплейс, посмотрит там все возможные тапочки, тут берёт самые хорошие тапочки именно под твои нужды и, как бы, закажет тебе именно те тапочки. И получается, что у него вот эта вся маркетинговая история, что смотри, вот эти тапочки носит твой любимый певец, вообще-то не работает. Но история здесь заключается в том, что... Он дальше продолжил мысль, и на мой взгляд, очень правильно, что. Если ты не захочешь платить за своего агента, а будешь пользоваться чьим-то агентом, то этот чей-то агент будет, соответственно, Работать вместо рекламы, да, то есть теперь надо будет занести небольшую денежку внутрь, соответственно, той компании, которая делает вот этого агента, чтобы он тебе правильные тапочки поэффендовал, который теперь уже не певец носит, а там, не знаю, агент, тот агент, на которого ориентируется твой агент, да, вот что-то такое. То есть, на мой взгляд, тут всё именно в это упирается, что у нас рекламные бюджеты просто перетекут от так называемых лидеров мнений к лидерам агентского мнения.

Татьяна Шаврина 43:32
Ну вот это интересное мнение, на самом деле, то есть с некоторой точки зрения я как. Конечное звено этой пищевой цепочки, да, может быть, я всё равно хочу тапочки, которые носит мой любимый певец, так как бы, если агент купил не те, может быть, мне всё равно это как-то не очень интересно. Я буду меньше пользоваться этим агентом, тогда ему не буду доверять свой кошелек. Так что, может быть, это будет совместно. Но просто с точки зрения агентов, я совершенно согласна, что B2C-сегмент, он будет, и даже если вы платите за подписку, всё равно это будет приоритетной интеграцией с определёнными поставщиками, с определёнными платформами. Это вот худшие проявления. Монополизм платформ мы будем наблюдать сто процентов. Именно по этой логике быстро интегрируем, а дальше посмотрим, что из этого будет, и потом отдельные кейсы запретим. Ну, так что всё, что будет касаться таких сложных вопросов, как финансовые услуги, медицина. Вообще, маркетинговые данные — это же тоже огромный левердж, который OpenAI ещё как бы не до конца использовали, но они сто процентов очень хотят. Да, они же хотят быть прибыльными.

Валентин Малых 44:43
Наняли специального человека для этого, насколько я помню. Из Meta, да.

Татьяна Шаврина 44:48
Так что я думаю, что они как раз. Готовятся к тому, чтобы всё это начать монетизировать по-всякому. И уже сейчас это очень интересная сторона бизнеса, очень спорная, да, во многих юрисдикциях вообще запрещенная, data brokerage. Как бы у нас есть там условно Виргинские острова, мы регистрируем компанию data broker на Виргинских островах. Через неё как бы покупаем все данные, их консолидируем. Там каждый из них отдельно были, как будто не содержали персональных данных, но их сочетание максимально деанонимизирует людей на уровне IP-адресов, кто с кем живёт, у кого какие болячки, у кого какие привычки, у кого какие зависимости, у кого какое финансовое положение. И всё это в огромном масштабе, в масштабе как бы управления экономикой, даже можно сказать, и предсказания спроса. Так что мне кажется, что в этом смысле как раз B2C-сегмент более опасен, и в нём OpenAI же всё-таки доминирует. Неважно, они там, там кто-то удалил приложение, но всё равно данные-то остались. Я думаю, что всё равно относительно Anthropic они будут продолжать лидировать именно по уровню удобства, по уровню каких-то продуктовых интеграций. И это, конечно, ситуация очень опасная. Вот увидим, увидим. Мне, кстати, знаете, что вот опять же про персонализацию мы начали про это, спецслужбы, шутить. Вот как только начался конфликт на Ближнем Востоке, это поразительно. Я раньше такого никогда не видела. Вот у меня есть алгоритмы рекомендаций, которые мне в соцсетях показывают ролики всякие. Да, ну вот садишься там посмотреть условные TikTok. За прошлые две недели мне старгетировалось несколько роликов с официального аккаунта ЦРУ. Причём из них часть на китайском языке, потому что я учу китайский, и там прям такие ролики по типу, ну вот, подмывают на госизмену, типа, помоги США. Там, если у тебя есть секретная информация, вот как в Тор зайти и вот здесь вот по этому адресу сообщи. Значит, против компартии Китая. Значит, это раз. Значит, с аккаунта MI6. Там тоже у них прямо такие красивые ролики по типу, там вот ты будешь герой страны, давай нам тоже сообщи. А с аккаунта MI5, с аккаунта MI5, там просто вступай в, значит, Intelligence Services, значит, и нам тоже помогай. Ну, там прямо сразу. Ну, ну прям вакансии, ха-ха, таргетти. Да, как-то же надо людей набирать в конце концов. Да, и я просто в шоке. Ну то есть, до этого не было такого никогда, а сейчас прямо много. У меня есть один друг, к которому я ради шутки это всё пересылаю. У нас в последнее время диалог — это просто только вот эти ролики про то, что там станешь шпионом, вступи в секретные войска и так далее. То есть, как бы, это происходит совершенно параллельно во всех медиапространствах, не знаю, по всему миру.

Валентин Малых 48:03
Я думаю, что тут всё достаточно прозрачно, потому что они, я имею в виду, спецслужбы. Кстати, напомните мне, чем MI5 от MI6 отличается? Я честно не забывал. Ага, вот и я думаю, что тут всё дело... Ну, типа, конечно, бабушки брать не будут.

Татьяна Шаврина 48:23
Когда я звоню, она мне говорит, что ты мне ничего не рассказывай, разговоры прослушиваются. Как бы, это когда мы раньше общались по телефону, это была как бы шутка, но я думаю, это не шутка.

Валентин Малых 48:33
Да, это вообще не должно быть. Вот, ну просто сейчас, так как конфликт идёт, то довольно логично, что сейчас просто стали вливать деньги в вот эту вот рекламу, и получается, что таргетинг стал вот такой.

Татьяна Шаврина 48:47
Ну, как бы, если бы у меня была более слабая нервная система, у меня бы развелась просто, у меня было бы параноидальное расстройство, честно, мне кажется.

Валентин Малых 48:55
Ты же знаешь историю Хемингуэя, да? Что он, ну, у него, как бы, диагностировали параноидальное расстройство, но потом, через много лет оказалось, что за ним реально следили. Как бы, всё реально слушали, его телефоны, и вот это всё, да, ну, бывает.

Татьяна Шаврина 49:09
Ну да, но это как бы мы знаем уже ретроспективно, а как бы про себя ты никогда не можешь быть уверен. У меня много раз были такие случаи, когда условно. Еще даже до эмиграции я сижу с психотерапевтом, жалуюсь к психотерапевту, что вот мне кажется, что за моей спиной люди реально про меня плохо говорят. Говорят, что они пытаются у меня отнять часть направления на работе, ещё чего-то. И терапевт такая, как бы, ну из-за там побуждений каких-то своих профессиональных, мне даёт совет что-то, не волнуйтесь. Никогда такого не бывает. Обычно это мы всё накручиваем, всем пофиг на нас. И в ту же неделю после этого разговора я узнаю, что там новый руководитель. Пытается реально про меня нагнать, что я не технический специалист, потому что у меня первое образование. И отдать его людям. И я просто с этим психотерапевтом я больше не работала, и как бы каждый раз, когда такие вещи возникают, я всегда доверяю тому, что это ну как бы вот опять же в этой ситуации конкретно с таргетингом, если бы у меня была более слабая нервная система, я бы думала, что это непосредственно меня по сути, что это непосредственно вот мне как работнику IT-индустрии, там моя индустрия, мне пытаются старгетировать непосредственно так практически лично. А может быть, но у меня ещё недавно аккаунт взломали, OpenAI и там на китайском большое количество было запросов по биологическому оружию. И как бы это было всё, ну получается, это всё на протяжении месяца произошло.

Дмитрий Колодезев 50:48
Вот, ну, тут ещё, знаешь, интересно, что вера людей в то, что можно всё отменить, то есть, вот как бы, ну, отмена туда, отмена сюда. Ну, можно ли отменить, например, OpenAI? Неизвестно, пока не попробуешь. Мне кажется, что нет. То есть, мне кажется, что... Ну вот, допустим, скажем, Нила Геймана обвинили в том, что он обижал женщин. Весьма вероятно, что так оно и было. После этого выкинули это всюду. Вот, то есть саму историю не обсуждаем. Но вот, допустим, Билла Гейтса обвинили в том же, и Билл Гейтс остался сидеть там же, где сидеть.

Татьяна Шаврина 51:29
Мне, как бы, я в этом смысле, к сожалению, очень ценичный человек непосредственно, как бы, у нас выпуск на 8 марта, но мне кажется, что любые обвинения, так или иначе, они либо ложатся, либо не ложатся на, вот, политическую волю внутри там компании или какую-то внешнюю, и как бы. Будет ли это поводом? Да, это сто процентов будет поводом, если кому-то это надо. А если это никому не надо, то система, к сожалению, Совершенно Всё погасит, а это ужасно. Я не говорю, что это правильно, как бы, я просто считаю, что это текущее её состояние. То есть, как бы, справедливо было бы выгнать Билла Гейтса, конечно, справедливо. Ну, как бы, вообще, справедливо было бы провести какое-то расследование, всё-таки, поверх того, что там нашли. А дальше уже, как бы, ну да, это было бы справедливо. Произойдёт ли это? Ну, я думаю, что нет. На самом деле, это большое тоже, как бы, для женской карьеры в том числе. Это очень большая проблема, потому что ты всегда знаешь, что если что-то такое произойдёт с тобой, ты не сможешь пожаловаться. Потому что то, что дальше произойдёт, будет, что, скорее всего, с человеком, который тебя обидел, все продолжат общаться, потому что это выгодно с точки зрения карьерных перспектив. А вот с тобой уже не буду.

Дмитрий Колодезев 52:46
Тут, видишь, я, наверное, с тобой, к сожалению, полностью соглашусь. Вот, ну мы одна из немногих IT-контор, в которых гендерный баланс полностью существует. То есть у нас просто половина девочек. Ну и как я уже говорил, у меня есть дочь в семье, и всё это мне знакомо, просто на всё это я насмотрелся, понимаешь? То есть сама ситуация, когда дискриминируют какую-то малую группу, она, конечно, обидна, но когда этой группе ровно половина, это уже ни в какие ворота не лезет, да. А вот. Тут есть такая новость. Вот тот же самый Anthropic, которого пока не отменили, он выпустил исследование влияния AI на рынок. Тогда так получилось, что я за этой темой слежу, наверное, с той самой первой публикацией, которую Open University вместе с OpenAI тогда сделал.

Татьяна Шаврина 53:47
Я помню, да, это двадцать первый год, по-моему, примерно. Это список профессий.

Дмитрий Колодезев 53:52
Да-да-да, да, да, и тогда же говорилось, что ничего не угрожает латиноамериканцам певцам. Ну и так и вышло. А вот, но тут интересно в этой работе что-то. Обычно говорят про то, что ну, нейронки и вообще вот этот наш яй, он в некотором смысле это капитал, да, то есть он усиливает капитал, следовательно, он уменьшает потребности в рабочей силе. Вот в роли был процесс. Да-да-да-да, вот и получается, что у нас есть более мощный станок, соответственно, нам нужно меньше рабочих. И вот все такие построения, они... Вот на мой взгляд, упираются в то, что мы берем и предполагаем, что мир изменится только точечно, а весь остальной мир останется ровно таким, как был. Вот, и тогда, конечно, все эти сценарии сработают, но мир обычно меняется сразу в нескольких местах. Вот тут они говорят, что смотрите, мы видим влияние на рынок труда в две стороны. То есть у нас есть влияние, когда мы замещаем. Некоторых работников, а есть. Где мы их аугментируем? То есть, грубо говоря, вот у нас конвейер был, а вот у нас было узкое место, тут у нас работали люди, но вместо них мы сейчас поставили одну машину, и этих людей мы увольняем. Вот, но тем самым мы, возможно, расшили проблему в конвейере, и нам понадобится больше людей в других местах этого конвейера, во-первых. Ну, потому что если это было узкое место, не было единого, было как раз вот это сейчас ограничение в системе. А во-вторых, предположим, что У нас этот самый AI, он аугментирует, а не заменяет людей, то есть он усиливает. И соответственно, появляется соблазн нанять ещё людей, усиливать, и до тех пор, пока мы не уткнёмся в очередную стенку, просто растить за их счёт. И вот они говорят, что мы видим движение в обе стороны, и в аугментацию людей, и в замещении людей. И они, поскольку... С противоположным знаком, то вроде бы как на рынке труда и не очень большие изменения. А если по сегментам сделать, то в каждом из этих сегментов изменения очень большие. Вот смысл этой работы. И там у них есть такой интересный на эту тему график. По-моему, он где-нибудь здесь. Да, ну или он в полной работе, это всё-таки выжимка. Вот, значит, сейчас я покрупнее сделаю. Я читал статью, это просто обзор на статью. То есть мы видим количество людей, это значит, новые работы на молодежь, которые подвержены автоматизации, которые не подвержены. Там самого интересного графика нет. Там, где она аугментирует людей, да, там спрос на людей растёт, причём на квалифицированных людей. Поэтому основная идея этой работы — что у нас влияние на рынок двунаправленное. Поэтому говорить, что оно вызовет массовое увольнение, где-то вызовет, безусловно, а где-то наоборот.

Татьяна Шаврина 57:13
Ну вот, тут очень много на самом деле есть как бы аспектов, которые можно прокомментировать. Я попробую. Пройти по всем из них, ну не со всем из них, я согласна прямо скажу. Как бы, опять же, я не экономист, но они тоже не экономисты. И как бы эта работа — это пчёлы против мёда. Мы должны понимать это, как бы, если мы посмотрим на то, что действительно происходит. Нет сейчас таких областей. В применении ИИ, где нанимают больше людей, потому что ИИ появился. Таких областей нет. да Да, по факту, может быть, где-то действительно будут узкие места и людей надо будет больше, но это... Часто просто приводит к увеличению нагрузки. Это не приводит к тому, что мы начинаем создавать новые рабочие места. Вообще, речи не идёт о том, чтобы создавать рабочие места, мне кажется, если мы посмотрим на инфраструктурные планы этих компаний, потому что... Зачем вообще масштабировать и бизнес, вот как у OpenAI или Anthropic, бесконечно? Да, понятно, что они конкурируют друг с другом, но сейчас это уже вышло на уровень инфраструктуры, непосредственно влияющей на уровень жизни всех людей в разных государствах, непосредственно потому, что они строят огромные дата-центры, а в Америке большие проблемы с электроинфраструктурой. Там АЭС ограниченное количество, там старые сети, еще из Канады общая сеть. Короче, там всё очень плохо. И на вот эту очень нагруженную сеть возрастает еще нагрузка, потому что строят огромное количество дата центров. И уже мы говорим об ухудшении уровня жизни людей в среднем, потому что... Все те проблемы, которые там были с отключением электричества, с тем, что там у людей отопление перестает работать в критические моменты нагрузок, их будет еще больше. И будет, поскольку там еще спотовая цена на электричество во многих штатах, то еще и будет огромный счет за электроэнергию, которую будут платить люди, реально, просто для того, чтобы. И компании ещё больше масштабировались. А зачем вообще нужно их бесконечно масштабировать? Вот есть же какой-то предел. Уже там с первого самого начала запуска ChatGPT миллиард пользователей. Ну, это мало что ли? Вот зачем надо ещё больше? Ещё больше надо за тем, чтобы автоматизировать рабочие места. Я только так могу увидеть, когда такое огромное масштабирование инвестиций в инфраструктуру становится прибыльным.

Валентин Малых 59:40
Слушай, тут как раз вот это проявление той культуры, про которую ты с самого начала говоришь, что у тебя пляпы в продакшен, да, так если бы по-простому. И их планы — это на самом деле не план, это... Такое пожелание, что мы бы хотели, чтобы вот так было, это было бы прикольно. И то, что они строят, как ты правильно говоришь, кучу дата-центров, но там достаточно легко представить себе, что если будет построена хотя бы там десятая часть из того, что уже заявлено, то, соответственно, иногда система просто не справится. Уже сейчас я где-то видел новость про то, что строится так называемый Теневая энергосистемная энергосистема в США, что есть энергосистема, которая общая, и энергосистема, которая отдельная для дата-центров. То есть это... уже Уже полностью происходит расхождение большой энергии системы и вот это. Мне кажется, что эти планы, они в принципе, не... Подразвивается, что будут реализованы. Это из разряда, что давайте мы попробуем вот такое сделать, вдруг у нас что-то из этого хорошее получится. И если говорить про автоматизацию, вот на мой взгляд, у них очень хорошо показано то, что вот реальные, ну насколько это опять же реальные риски того, что у них есть, реальные риски на отдельные профессии, да. А вот эти вот риски, на мой взгляд, может быть и реальные, но. Я считаю, что автоматизировать много. По крайней мере, с текущим видом не особо получится. У меня вот ощущение, что мы быстрее гораздо упрёмся в то, что вот эти гигантские мощности просто будут слишком много есть и слишком мало приносить экономической выгоды. То есть мы скорее увидим то, что мы не сможем. Там заменить людей, да, мы сможем их аугментировать, добавить какие-то возможности. Мы, я имею в виду как человечество, да, для России, я думаю, это вообще только так и будет, потому что у нас людей везде не хватает, да, так как у нас везде не хватает, то увольнять людей — это, не знаю, только какие-то очень крупные корпорации себе могут подволить. Электричество дешёвое, да, правда, не везде. В Москве, допустим, сейчас уже его выставляют на торги, да, что подключение новых ЦОДов уже настолько дорогое, что он на торги выставляет. То есть это реально уже конкретно в Москве дорого, а в других местах, вот там, Ополл Техмест, где Дима живёт, там попроще, но тем не менее.

Татьяна Шаврина 1:02:06
Ну, у нас, если есть культура построения АЭС нового поколения, как бы, это не везде так в мире, вообще-то. Ну да, ну вот я не совсем согласна, на самом деле, с тем, что ты говоришь, потому что мне кажется, что... Вот когда мы говорим про выкатку продукта и эксперименты, действительно, там всё делается вот так вот, тяп-ляп в продакшн, да, и как бы мы хотим быстрые эксперименты, проверку огромного числа гипотез, там дальше. Продолжение этих гипотез и так далее, и так далее, когда речь заходит. Долгосрочных инфраструктурных вложениях уже любят посчитать. Так уже, ну, эта логика не применяется. Как правило, там внутри компании отдельная, там условно своя плановая экономика, и финансы очень четенько пытаются спрогнозировать, какие будут затраты. А дата-центры — это огромные затраты. Да, это мало того, что это надо построить. Это надо всё купить, встать в очереди и там забашлять, чтобы быть повыше в очереди. И это ещё и потом. Обслуживание и замены — это же как бы не один раз построил, это постоянные огромные затраты. Да, и вот здесь уже, как правило, любят деньги посчитать. А чтобы что-то сделать, это всегда финансовый план на пять лет вперёд. И, ну, у некоторых компаний там, условно. Как у Meta это не секрет, это просто субсидируется из других частей бизнеса, потому что есть там выгодный бизнес по продаже объявлений в соцсетях и рекламы. Ну вот, и это как бы всё кормит. А у OpenAI и Anthropic нет принтера денег. Его нужно найти, а деньги нужны уже сейчас, чтобы это построить. Поэтому, как бы, здесь начинаются проблемы. Ну, наверное, какие-то планы у них есть, но так или иначе, для меня кажется, что максимально вероятно, что это всё пойдёт по самому консервативному плану. И это будут самые предсказуемые вещи, которые можно представить. И это будет уже то, что предложат и финансовые консультанты, и там большая четвёрка и так далее. А что они предложат, можно представить.

Валентин Малых 1:04:14
Слушай, я бы тут не согласился в некотором важном пункте. Важный пункт несогласия заключается в том, что ты говоришь, что OpenAI нет принятого денег. По OpenAI есть замечательный сам Артман, который умеет эти деньги делать из воздуха, фактически. Да, то есть он ходит, красиво улыбается, говорит какие-то правильные слова, и у него появляются ещё деньги. Я не... Ну, знаешь, как в одном американском фильме говорили, что долги отдают только трусы. Ну, вот, мне кажется, что это как-то так.

Дмитрий Колодезев 1:04:44
Да на самом деле, после того как оно пойдёт на IPO, отдавать их не надо уже.

Валентин Малых 1:04:49
Тогда там в том-то и дело, что у тебя просто это конвертируется в акции, а акции — это, ну, то есть, это не надо что-то физическое отдавать.

Татьяна Шаврина 1:04:58
Ну, то, что будет происходить с акциями, это тоже, как бы, очень спорный момент.

Валентин Малых 1:05:03
Тут мы не пытаемся обнаружить ситуацию, а потому что в рамках некоторой логики. Деньги находятся, да, то есть я не говорю, что это всё прекрасно работает, но в принципе сейчас то, что мы наблюдаем, на мой взгляд, оплачено именно. Инвестиции, то есть это те вложения в будущие доходы. И да, некоторые крупные компании, например, Oracle, могут себе позволить построить это центр за свой счет. Правда, ему пришлось для этого, сколько там тысяч людей уволить, но это другой вопрос. А кто-то не может, и, например, тот же OpenAI, и тогда это за инвестиции.

Татьяна Шаврина 1:05:40
Да, но эти инвестиции могут прекратиться. Это же не как бы постоянный поток, а бёрнрейт очень большой.

Дмитрий Колодезев 1:05:50
По-моему, 30 миллиардов, а 30 миллиардов, да, должны были перейти с Ближнего Востока. У человека в Ближнем Востоке внезапно появились места, куда они могут потратить деньги в ближайшее время. Вот, а значительную часть финансирования нового строительства обещало американское правительство. Американского правительства вдруг внезапно появилась потребность в возобновлении производства оружия массового, о чем товарищ Трамп сказал. И то есть, вообще говоря, у людей могут понадобиться появиться другие места, куда они хотели бы сложить эти 100 миллиардов, вот и так далее. Или 100 триллионов, то есть легко прямо сейчас.

Татьяна Шаврина 1:06:30
Да, ну вот, возвращаясь, в общем-то, к логике и к вопросу о том, что будет происходить с разными профессиями, тут, наверное, как бы у всех. Разные мнения, но в общем-то, мне кажется, что профессии, у которых есть верифицируемый результат, который можно получить в тот момент, когда человек работает с ассистентом на компьютере, это профессии, которые больше всего подвержены. Автоматизации. То есть мы можем сейчас сказать, что пока что это только ассистент, но он пока что только ассистент именно по той причине, что плохо работает и нужна супервизия от человека постоянно. Но в какой-то момент данных накопится достаточно с обратной связью автоматической по вот этим действиям, которые делал ассистент, агент и так далее, что уже можно будет и полностью автоматизировать.

Дмитрий Колодезев 1:07:24
И возвращаясь к теме 8 марта, Anthropic говорит, что всё это прилетит по тем, кто постарше, по женщинам, по более образованным и высокооплачиваем.

Валентин Малых 1:07:36
Ну, хотя бы образованных, образованным достанется, и то спасибо. А тут на самом деле даже это не одна новость, там будет ещё вторая, смежная. Но пока вот это появилась новая тенденция, которую автор. Я, к сожалению, не воспроизведу его имя, я прошу прощения. Я так понимаю, что он вьетнамец, и мне плохо с вьетнамскими именами. А вот человек пишет, что сейчас появилась такая мода, что мы берём понравившийся нам open-source продукт и просто переписываем его с помощью AI. Зачем? Я думаю, что многие в курсе, что есть разные лицензии, и есть лицензии, которые считаются токсичными. Я не говорю, что я полностью согласен с таким определением, но. Тем не менее, такая вот позиция существует, что есть лицензии типа GPL, которые токсичны в том смысле, что их нельзя использовать в коммерческом программном обеспечении без того, чтобы не иметь каких-то последствий в виде там необходимости открывать код. Это отдельный вопрос, хорошо это или плохо. Важно, что вот такая позиция существует. И мы можем просто сделать что мы можем взять этот код, этот код, соответственно. Посмотреть на него, не скопировав ни одного слова, ни одного бита оттуда, не скопировать, просто посмотреть, посмотреть, как у него устроена API. И, соответственно, воспроизвести на эту тему, кстати. Даже был прецедент, я вам сейчас скажу, мне кажется, это было лет семь назад, может, больше, а может, я уже забыл, когда это было, но если надо, я подсмотрю. Был когда ещё, соответственно, был отдельно Oracle и отдельно компания Sun. Они долго бодались из-за того, что у них их JDK, Java Development Kit, это основное программное обеспечение для разработки на Java, да, воспроизводило. API Sun, и Sun долго пытался доказать, что что вы делаете вообще. Да, это как бы наша API, наша собственность, и вообще идите в баню. А судья им сказал, что типа, ну, они у вас ни строчки не скопировали, поэтому ваши лицензионные права не нарушены. Причём он это не просто доказал, он это показал тем, что сам написал несколько строчек на Java, и это стало популярно очень сильно, поэтому все про это слышали. И история как раз в том, что... Сейчас, как мне кажется, мы переживём вот такую волну, когда, соответственно, вместо того, чтобы заново пользоваться каким-то готовым продуктом, можно просто заново его для себя сделать за небольшую сумму, как-то заплаченную каким-то фирмам, которые поставляют вам агентов для подключения. учения

Татьяна Шаврина 1:10:24
Там с Java еще куча была историй, мне кажется, и с JSON непосредственно, что там IBM судилась с тем, что там в лицензии оригинальной от автора JSON было написано «опрещено использовать for evil». Что-то как-то так, и соответственно, формально, с точки зрения легальных, вот этих корпоративных оценок рисков, это была непермиссивная лицензия. А как раз, как Валя выразился, токсичное, и они годами... Десятилетиями пинговали автора исходной библиотеки, чтобы он убрал эту формулировку из лицензии и разрешил IBM использовать JSON for Evil, как бы, чтобы лицензия стала первензивной. Ну, как бы, вот эта логика, короче, когда всё время... Оценивается лицензия только относительно того, какие риски с неё. Мне кажется, что она такая пагубная, потому что JPL нормальная лицензия, хорошая лицензия. Как раз она защищает open-source community в некотором роде, да, очень хорошо защищает. Да, её не любят корпорации, действительно, ну и что? Ну, как бы, вот с точки зрения массового Adobe, может быть, она и очень хорошо служит своей цели.

Дмитрий Колодезев 1:11:41
Слушай, ну, во-первых, это готовый рецепт. То есть, если кого-то не устраивает лицензия, идите и переписывай.

Татьяна Шаврина 1:11:47
А что это? Почему мы учим плохому? Я не понимаю, зачем переписывать JPL? Переписывайте проприетарные продукты, ребята!

Дмитрий Колодезев 1:11:58
Кстати, так, а во-вторых, вот я не знаю, мы, наверное, до них не доберёмся с нашим графиком, но вот OpenAI выложили Symfony, framework для управления агентами, да, и у него совершенно прекрасная инструкция по развертыванию. То есть вариант номер два — используйте нашу референсную реализацию, и вариант один — скормите спецификацию своему любимому кодовому агенту, он вам это нафигачит. То есть зачем вам наш код, если у вас есть спецификация?

Татьяна Шаврина 1:12:26
Это идеально, кстати. Я считаю, что это тоже отличное. Вот это на заметку хозяюшкам и хозяйкам и хозяинам. Короче, вот если вы работаете в какой-то сфере, где есть тоже риски, вы можете вот так open-source. Тут вопрос, как бы, юрисдикции, как оцениваются действия агента, кто его там запустил или и так далее. Но с вас это точно снимет ответственность, да. Вот в ранние. Стородавние времена, так скажем, когда. Было очень мало открытых датасетов и открытых данных для обучения языковых моделей. Там в годах в десятых был замечательный проект, Common Crawl назывался. Это был такой open-source поисковый индекс, который обновлялся, и там добавлялись разные ресурсы на разных языках. Это он существует, да, но как бы. Вот он существовал в таком виде, что Google Эту команду купил, насколько я помню, по-моему, такая была история, и потом им стало страшно с точки зрения. Легальных рисков вот этих корпоративных, что как же так? Мы выкладываем чьи-то пропоретарные, возможно, материалы, а люди на них учатся. Тогда они за неимением лучшей идеей выложили все скрипты для скачивания. Датасет этого с нуля и индекса, и там было буквально четыре команды в терминале, которые по очереди надо было вам запустить самостоятельно. И вы как бы сами, без участия Google, скачали себе все данные, а Google как бы и не про делах. Ну вот теперь у нас даже есть и вот такой способ не забивать четыре команды в терминале самому, а забить одну, и агент там дальше всё запустит, видимо.

Дмитрий Колодезев 1:14:08
Слушай, тут для молодежи не лишний напомнить историю PGP. Я думаю, что Цветана, ты знаешь, и Валент точно знает. Когда Циммерман написал свое PGP, оно попало под тогдашнее экспортное законодательство США, которое запрещало экспортировать шифровальный код. Они ее распечатали в одном томе, вывезли за границу, поскольку книгу можно было вывести. Отсканировали и скомпилировали где-то в Скандинавии. Вот и так PGP-100 вывели из-под лицензионного законодательства. Циммерман, надо заметить, всё равно арестовали, но потом отпустили.

Валентин Малых 1:14:45
Ему не помогло, да. А тут вопрос. Я бы тут, знаешь, что заметил к словам Тани, что такая история была вот с тем же ImageNet, да, или с каким-то таким похожим датасетом. Но проблема в том, что интернет забывает. Да, то есть, если у тебя что-то лежит в интернете, оно периодически пропадает, если ты это не контролируешь. И поэтому вот такого рода вещи, к сожалению, не очень хорошо показывают себя на длинной дистанции. Ну, собственно, понятно, что сейчас с агентами нам вообще это всё неинтересно. Да, с агентами мы можем просто воспроизвести всё, что нам нравится, и заново сгенерирует весь мир, и, знаете, с помощью каких-нибудь, там, имидж-генераторов. Но, тем не менее, мне кажется, что это довольно важная история.

Татьяна Шаврина 1:15:29
Ну, да, мне кажется, в целом, ещё вот и дальше эта же история продолжилась с Common Crawl, и дальше это был один из таких первых шоков, который сделал Hugging Face как популярной платформа, непосредственно за счёт того, что они... Решили вот нафиг вот эти риски корпоративные. Мы сами скачаем Common Crawl, почистим его, очень удобно зальём, и вы можете напрямую скачивать его с нашего сайта. И это был такой вот сильный ход, так скажем, что мы все прониклись уважением в этот момент, потому что это было гораздо более удобно, и они на себя всё равно взяли эти риски. То есть, в принципе, и ничего плохого не случилось всё равно. Ну, так всё, так что и...

Валентин Малых 1:16:11
Мы просто не знаем, что случилось плохого. Может быть, просто это плохое они разрулили. Если вспомнить, я сегодня уже вспоминал такой фильм, как «Социальная сеть». Там же они проходили через суды довольно большие. Я не знаю, сколько это опять соответствует реальности, я тут не берусь что-то сказать, но они проходили через суды, и они просто как-то решили эти судебные проблемы, видимо, с помощью каких-то денег, наверное.

Татьяна Шаврина 1:16:37
Не, ну подожди, это одно дело, это деньги. Это же не универсальный, как бы, ответ. Все равно должен быть framework, существовать в рамках которого. Адвокаты и судьи, и все остальные, они работают, и какая-то логика. Да, иногда эту логику надо создать, потому что её нет. Да, и тогда это вот очень-очень классно. Вот сейчас то, что происходит, я не знаю, на стыке там копирайта, обучения, да очень много же судов сейчас. И сейчас все вообще подают в суд там постоянно, все, кто там, у кого есть деньги на посудиться и кто когда-то заливал какой-нибудь. Контент на YouTube, они как бы очень-очень любят там тоже подавать на всех. Находят сначала на Hugging Face ссылку на датасет, потом в индексе где-нибудь находят, что там что-то было скачено у них, потом подают в суд на все компании сразу. Вот, ну ничего, ну как бы происходит потихоньку, как бы работа в этом направлении, фреймворк принятия решений создается. И сейчас вот многие, вот мне кажется, в конце прошлого года как раз по Anthropic ещё по некоторым таким ключевым делам было принято решение, что если нет возможности доказать. Убытки от этого, да, что там условно компания, которая обучила свой видеогенератор с использованием датасета, в котором было ваше видео, но она не стала генерировать видео, чтобы конкурировать с вами на YouTube, это как бы вы не можете даже доказать ущерб какой-то. Ущерба нет у вас, вот это fair use. Ну вот, как бы, деньги помогают создать такой фреймворк. Да, и как бы, понятное дело, что эту логику можно в разные стороны двигать, и многие, наверное, не рады. Как бы, open-source community, как бы, оно неизвестно тем, что у него много денег, да, к сожалению, но вот конкретно некоторые такие решения, они принимаются в такую сторону, что open-source community, как бы, становится бенефициаром, что приятно.

Валентин Малых 1:18:34
Слушай, я тут хотел, извини, две копейки вставить. Просто, опять же, я здесь только фильм пересказываю, свечку не держал, но тем не менее. Одним из таких косвенных результатов, вот тех разборов, про которых которые были в этом фильме описаны, стало то, что коллега, с которым Zuckerberg организовывал всю эту движуху, он в итоге отказался от американского гражданства и ехал в Сингапур. Ну так, чисто на всякий случай. Я думаю, что здесь тоже, в общем, что-то подобное, к сожалению, может произойти.

Дмитрий Колодезев 1:19:04
Сходу нашёл иски к Hugging Face. Вот, то есть, их на них подавали, и они отбились.

Татьяна Шаврина 1:19:14
Ну, мне кажется, что это, к сожалению, просто реальность, которая сейчас есть, что если компания какого-то значительного размера, то стоит ожидать в любом случае каких-то исков, а то, как они завершатся, это зависит от того, насколько вы системно подходите к имплементации вот этой логики относительно, где граница проходит, что можно, что нельзя.

Дмитрий Колодезев 1:19:36
И импакт Hugging Face на отрасль, он, конечно, потрясающий.

Татьяна Шаврина 1:19:42
И мне кажется, что это одно из первых решений выложить у себя Common Crawl, оно тоже имело огромное значение.

Валентин Малых 1:19:49
Я тут извинить не могу, сам себя не похвалишь, никто не похвалит. Я логику Hugging Face предложу ещё за год до того, как они это сделали.

Татьяна Шаврина 1:19:56
Я читала в огромном количестве все эти имейлы Эпштейна какое-то время назад, и просто они меня заворожили. Я просто несколько дней, мне кажется, подряд просто гуглила все там имена, все какие-то ключевые слова. Там была замечательная переписка, в кавычках, но она меня очень позабавила. Это моё любимое письмо из файлов Эпштейна. Там Бен Герцель, автор, вот популяризатор термина AGI, он всё время просит денег на стартап. И ему, ну, периодически он как бы просто себя показывает как эксперта в рамках темы, он присылает какие-то новости, комментирует их, и потом в конце всегда просит денег. Телеграм-каналов не было ещё. Вот, может быть, такой личный телеграм-канал был у Epstein в почте, и он там тоже пишет, что вот я уже за год до этого предложила, а теперь вот компьютер-вижн моделька, там какие-то свёрточные нейросети, вот что-то там показали. Это такие, как бы, это древнее письмо, и Epstein ему отвечает, что типа денег не дам. Единственная разница между тобой и ними, это что у них была демо. Ха-ха-ха, не брось, а в глаз.

Дмитрий Колодезев 1:21:06
Да-да-да.

Валентин Малых 1:21:11
Новость, которую я хотел обсудить в рамках вот этого предыдущего разговора, она такая, что всем нравится Claude Code. Я лично Claude Code пользуюсь, замечательная штука. Ну, всем нравится, конечно, преувеличиваю. Да, понятно, что есть люди, которые пользуются что-нибудь другим, тут вопрос не в этом. Вопрос в том, что китайским товарищам некоторым он тоже нравится, и он им настолько понравился, что они просто его раскрутили до винтика, посмотрели, что он делает, и сделали то же самое. То есть, они просто сделали open-source версию вот этого кодового агента. Просто скачав и как бы его потрясив. Да, то есть они фактически сделали то же самое, что вот мы обсуждали с перелицензированием, да, то есть есть API воспроизводим. Здесь они посмотрели просто глазами на то, что происходит, и сделали то же самое на, я думаю, на вайкоделе, просто. За счёт того, что ну сейчас это стало доступно. То есть мы, как мне кажется, прямо вплотную приблизились к тому, что можно написать ту софтину, которую ты видишь, но которая тебе не доступна по каким-то причинам. Ты можешь её просто написать заново, имея достаточный бюджет времени и, собственно, бюджет токенов.

Дмитрий Колодезев 1:22:33
Слушай, но тут они сделали несколько больше. Они сделали 12 уроков, в которых каждый из них разбирает, как он устроен. Они не просто его написали, они сделали из него учебник. Вот, и теперь каждый может понимать, как он устроен. Вообще-то говоря, Anthropic не скрывал то, как они работают. Они выкладывали технические отчеты с мелкими подробностями достаточно. То есть я читал. Вот, но что вот так вот по шагам? Делай раз, делай два, делай три, делай двенадцать, и хоп, у тебя Claude Code получился. Это прямо вот прекрасно совершенно.

Валентин Малых 1:23:06
Ну, то есть, новые вот это я считаю прямо. На самом деле, довольно фундаментально меняет парадигму. Я уже видел новость про то, что написали на вальткоде OS, которая вроде как даже заработала. Да, то есть понятно, что в ней дырок больше, чем во всем известных поделках, но тем не менее. У нас происходит очень серьёзный переворот, то есть то, что раньше было невозможно сделать, потому что это слишком дорого. Вот мы в частности обсуждали, если помнишь, или это я у себя в канале писал, неважно, про то, что какой-то один парень буквально написал вирус, который, соответственно, Там какие-то деньги требовал. И я тогда сделал прогноз, что сейчас количество вирусов увеличится в десятки раз. Потому что сейчас стало выгодно написать вирус. Да, то есть сейчас написание вируса стоит условно сто долларов, а получить может и те же самые сто долларов с хотя бы одного человека, которого этот вирус подхватит. И это уже достаточно для того, чтобы это стало экономически выгодно. И всё. И у нас сейчас, соответственно, должна произойти какая-то смена парадигмы в плане продажи программного обеспечения, как мне кажется.

Татьяна Шаврина 1:24:24
Можно даже для агентов писать вирусы целенаправленным. Ну, да, мне кажется, что как бы в целом, да, весёлая новость. Я уже сказала, вот пока ты отвалился, что типа, раз у нас есть возможность переписывать ПО, зачем мы переписываем то, что по GPL надо переписывать проприетарное ПО, как бы, и всё замечательно выходит, как бы, и учебник замечательно. Ну, как бы, не вижу минусов никаких. Да нет, ну понятно, что как бы всё равно нужно. Знания индустриальные и опыт, да, то есть как бы вот изначально сделать что-то такое, что потом. Другие люди будут переписывать, это всё равно требует вложений большого количества набитых шишек экспертного знания, да, прямо скажем. То есть, как бы важно быть человеком, который не только может что-то переписать чужое, но и который может изначально что-то такое создать, что потом люди будут переписывать. Это, конечно, тоже, мне кажется, такой важный навык.

Дмитрий Колодезев 1:25:27
Тут у меня есть философский тейк. Мы когда, помнишь, съездили в Летово с тобой. Я там всех раз спрашивал, что будет с образованием, да. И у меня сложилось в конце такое представление, что образование ближайшего будущего декларативное. Ты достаточно хорошо определяешь, что должно получиться в результате образования, а затем уже с помощью LLM тогда придёшь. И от того, насколько ты хорошо это сформулируешь. И получится результат, если ты поставишь как результат целеполагания. Я хочу научиться зарабатывать деньги на нейросетях, ты получишь вот тот slob, который у нас есть. Если ты скажешь, вот у меня есть теорема, я хочу уметь её доказать, используя вот такие вот эти самые, ты научишься доказывать эту теорему. То есть механика ровно одна и та же, всё разница в декларации. И вот тут получается, что мы идём вплотную к, я не говорю здесь про встроенное программное обеспечение, про критичное, а есть такое среднее. Важности программного обеспечения для бизнеса, такой средней тяжести, и оно вполне декларативное. То есть, там главное — понимать, что же действительно должно. должно получиться И если ты действительно хорошо понимаешь, нет никакого смысла кому-то за это платить. Просто расскажи, и у тебя оно будет. И вот там у нас есть новость от Forbes, которая делает Artificial Intelligence Reliquius SaaS. Вот, и она как раз про то, что у SaaS-компании маржа, вероятно, упадет и уже падает, как раз за счет того, что их резонно спрашивают, а зачем нам вам платить, если и так понятно, что нам нужно.

Татьяна Шаврина 1:27:10
Ну, да, кстати, это интересный вопрос. Вот всё-таки, чтобы... Опять же, вернувшись к тому, как бы, что мы переписываем и там декларативно, что мы хотим сделать, да, вообще-то нужно достаточно глубокое понимание, хотя бы на начальном этапе, там, систем дизайна, какие у нас будут bottleneck, какие у нас есть ограничения, как бы, какой у нас потолок масштабирования вот этого прототипа, да, и так далее, и так далее. И, как бы, вообще-то это знание берётся, ну, я не знаю, из опыта тоже, в том числе.

Дмитрий Колодезев 1:27:42
Только из опыта, собственно. Из опыта и берётся, да. Вот и вот тут. Существует какой-то, но в своё время существовал рынок утилит, да, маленьких. То есть компания размером в 12 человек могла жить печь утилит и шариварная, и жить ими. Потом этот рынок исчез, но вот сейчас. Программное обеспечение такого размера, то есть мелкую утилиту для одноразовой работы, бессмысленно продавать, её сделает тебе LLM. Вот, то есть и возникает, как вот тут опять же в этой статье, полантеризация всего, то есть, грубо говоря. Тот же самый Claude Code — это не только программа по разработке кода, это так же, как браузер, например, у меня заменил калькулятор. То есть я просто его использую Chrome как калькулятор. Я пишу формулу, и он мне её считает. И получается, что вот эти кодирующие системы, назовём их так, Они могут заменить собой целый класс программного обеспечения, которое мы создаем по требованиям, то есть программное обеспечение по требованиям. Вот я не говорю, опять же, здесь про управление метро или, скажем, пилотирование самолетов. Есть куча говнокода, который время от времени нужен, и качества его требований никаких.

Татьяна Шаврина 1:29:06
Да, то есть, в принципе, количество маленьких проектов, которые мы можем быстро склепать, увеличивается очень в большой прогрессии, мне кажется.

Дмитрий Колодезев 1:29:16
Да, и нет никакого смысла хранить их код, достаточно. Выкладывать их спецификацию, если она хорошо проработана. Ну, возможно, да. Возможно, и да. Тут как бы единственная для меня проблема — это что...

Татьяна Шаврина 1:29:28
Опять же, это монополизация платформы происходит, да, и как бы, ну, это естественный в данном случае процесс, но эта платформа непосредственно, она из этого извлекает ещё и дополнительную прибыль, потому что Это сигнал обратной связи, который используется для улучшения системы. То есть, как бы, если это уже происходит сейчас, то через год она на этих данных будет ещё лучше, и монополия будет укреплена. В этом смысле, как бы, вот было же очень много стартапов, которые делают всяких coding assistant. Да, вот ещё там года полтора назад это же был целый бум разных coding assistant, и многие из них, они как бы были обёртки над кодом с самого начала. А не будем пальцем показывать, ну просто там было вот некоторое количество там заготовленных, более удачных там каких-то промтов оттестированных. Да, и суммарно это, может быть, даже удобнее было, чем работать непосредственно с Claude. Да, и как бы субсидировалось это всё за счёт того, что, ну вот мы взяли деньги у инвесторов, мы немножко посубсидируем токены, заключим договор с Anthropic. И в целом нашим клиентам будет дешевле покупать сервис у нас, чем у Anthropic, и ещё и удобнее. А пока это происходит, мы накапливаем данные, и мы делаем свою собственную модель, и мы не будем зависеть от Anthropic. У большинства из них план был примерно такой. Этот план провалился. Ни одна из этих компаний не смогла сделать фундаментальную модель, которая лучше, чем Claude. Потому что они с самого начала проиграли по плотности таланта. Неравенство на уровне того, где находятся все топовые специалисты, оно достигло уже такой концентрации, что это в принципе невозможно. Вот и всё. И как бы они думали, что как бы окей, мы ещё можем взять LLM-ку за fine-tuning или даже как бы запретrainить с нуля. Нет, даже большой объём уникальных данных не помог победить проблему плотности таланта. Так что в этом смысле. Возможно, и ещё другие будут отрасли, в которых та же самая будет логика. И просто код, он как бы первый в этом смысле, потому что очень короткая цепочка обратной связи. Но там, где эти цепочки тоже есть, ну, это тоже произойдёт.

Валентин Малых 1:31:43
Ну, слушай, с одной стороны, я с тобой согласен, а с другой стороны, у нас есть же глобальная конкуренция. Есть китайские товарищи, у которых Своя свадьба, и у них, соответственно, своя конкуренция за таланты совершенно отдельная. И у них как раз их стартапы вполне себе сейчас живут, кодинговые, именно потому что они отрезаны от кода и от ChatGPT. То есть, ну, может быть, не именно поэтому, но от части поэтому.

Татьяна Шаврина 1:32:18
Большой, так что как бы у этого есть возможность действительно дано.

Валентин Малых 1:32:23
Сам своя свадьба, я говорю, и своя совершенно экосистема, которая существует. То есть, всего существует две экосистемы сейчас, вот американская и китайская. И кажется, что, ну, по крайней мере, у нас есть возможность выбора, да, кому ты хочешь свои данные отдать.

Татьяна Шаврина 1:32:39
Кто-кто будет за нами следить, как обычно. Китайцы же ещё могут подестилить всё, что-всё, что американцы делают. В этом смысле, конечно, меня радует вот этот дикий anti-copyright, который там происходит. Просто вообще можно всё.

Валентин Малых 1:32:55
Слушай, это их в каком-то смысле традиция, то есть они как с восьмидесятых начали это делать, так и продолжают, и на мой взгляд, совершенно правильно это делают. То есть, они не осознают основания по технологиям, значит, надо просто скопировать и сделать, ну, может быть, не лучше, но дешевле. Сделать и дешевле, пусть оно даже будет хуже.

Татьяна Шаврина 1:33:14
На самом деле, это создает очень классные какие-то, опять же, в плане легальных рисков и их оценки коллизий, потому что, ну, в целом, там многим американским компаниям сейчас вот B2B, ну и, естественно, там и Министерство войны следит. Нельзя пользоваться китайскими моделями, это там не патриотично, и вообще, значит, использовать же американские модели, да, угроза безопасности. Вот, но open-source американские модели не такие хорошие. Да, GPT-oss, вот в тех же там open-claw применениях, ну, плоховато работают. А уже там Qwen, уже Kimia, да, уже как-то вот все они получше гораздо с этим всем. И в принципе, есть уже стартапы, которые дистиллируют Kimia. Qwen в американской юрисдикции, и это делать можно, потому что, ну как бы, заключается, что это американская модель.

Валентин Малых 1:34:09
Слушай, даже без дистилляции, я не помню, где я это видел, не на опыта роутере, но где-то, что там список доступных моделей, такой-то там типа ChatGPT, Claude, там тэрэпэра-тэрэпэра, в конце написано Kimi, и приписочка развернута на территории США.

Татьяна Шаврина 1:34:29
Да, другой немножко момент, но тоже, да, там есть вот такой момент, что оно должно быть территориально в США.

Валентин Малых 1:34:36
Да-да-да, ну то есть, тут я могу понять, то есть, как бы, штука-то хорошая, давайте к себе притащим. В общем, конкуренция приобретает довольно своеобразную форму.

Дмитрий Колодезев 1:34:46
А я думаю, что пока они друг у друга воруют, само понятие copyright, которое на самом деле начало тормозить прогресс, оно чуть-чуть размоется, и нам жить будет полегче.

Валентин Малых 1:34:56
Ну, восемь джапов на городскую. Да-да-да, я как бы, я готовился, я готовился, чтобы всем было сразу весело. Выглядит страшно, но на самом деле это очень интересная новость, и в ней есть глубокий смысл. Неважно, что это арбитражный суд, туда-сюда, это всё особо не важные вещи. Важные вещи, они где-то на третьей странице были, и они про то, что вот тут очень важная такая, даже цитату не буду приводить, чтобы не было совсем скучно, идея в следующем, что арбитражный суд запрещает налоговую, соответственно, взимать те. Ну, там штрафы и пени с некоторой компанией, но совершенно неважно с какой, которые были начислены с помощью искусственного интеллекта. Компания говорит, вы с помощью искусственного интеллекта начислили, а я не согласна. И, соответственно, она обратилась в суд. Налоговая говорит, искусственный интеллект не ошибается, и он вообще всегда прав. А суд сказал, искусственный интеллект не является субъектом, он не может принимать решения о начислении. Если вы сделали начисление, вы обязаны уметь их объяснить. На мой взгляд, это очень существенное. Вот это вот замечание, что у нас, по крайней мере, в нашей стране суд, он сказал, что AI не субъект. Ответственность несёт тот, кто и пользуется. Это очень важное замечание, именно потому что что бы вы ни сделали, вы должны уметь объяснить, почему вы это сделали. Потому что вам сказал ChatGPT не работает. Да, то есть надо. Как бы, ну в случае налогов, да, там конкретно расчеты денег. Типа, я думаю, что ты мне должен 10 миллионов долларов, да. Почему-то так обычно не срабатываю. Да, почему если тебе говоришь, что ChatGPT, тебе говоришь, что ты мне должен 10 миллионов долларов, почему ты должен верить, непонятно. И вот тут я как раз считаю, что очень правильное решение было принято. Опять же, повторюсь, что правильное с моей точки зрения, потому что меня как человека... Вас совершенно не улыбает, если кто-то вдруг с помощью ИИ насчитает некие бешеные налоги.

Татьяна Шаврина 1:37:08
Да, ну а прикинь, было бы наоборот, там было бы вообще, там апелляционный суд Московской области постановил, что является субъектом, и всё, тебе всё надо переделывать. Весь... Framework, да, Мещанский суд Москвы постановил.

Валентин Малых 1:37:25
Могло быть, но нет, пока нет.

Татьяна Шаврина 1:37:28
Да, нет, ну это же надо. Ну, как бы, LLM очень хорошо справляются с задачей и предсказывают следующий токен, как бы, галлюцинировать вычисления. Это точно не то, что мы хотим от них. Хотя бы пусть tools используют там для калькулятора, Wolfram и так далее.

Валентин Малых 1:37:45
Слушай, ну я тут, ChatGPT приплёл, это я приплёл. Да, тут надо понимать, что тут просто некий ИИ. Вероятно, имелось в виду, что у них есть какая-то система с машинным обучением, которая, наверное, всё-таки не LLM, а просто какая-то там дерево решения, условно говоря. Да, но всё-таки не меняет.

Татьяна Шаврина 1:38:03
Ну, ну вот как бы про LLM точно нельзя сказать, что ей никогда не ошибается. Да, это в целом как бы изначально неверное осуждение. Так что вот так вот. Так что власть человеков сохраняется ещё.

Дмитрий Колодезев 1:38:18
Да, пока юридическая власть на стороне кожаных.

Валентин Малых 1:38:23
Мы ещё не всё потеряны, я согласен. Да, ещё есть шансы. Ладно, на этой, я думаю, позитивной ноте будем завершать. Большое спасибо Тане, что пришла, было суперклассно. Большое спасибо всем нашим слушателям и особенно слушательницам. Мы очень рады, что вы у нас есть, и пожалуйста, продолжайте, соответственно, работать и совершенствовать мир вокруг себя.

Дмитрий Колодезев 1:38:47
Вот тут ты опять шовинист. Они есть у себя, они есть рядом с нами, и это прекрасно.

Татьяна Шаврина 1:38:57
Да, ну ладно, в общем, всех с 8 марта. Желаем всем женщинам не знаю, максимально иметь больше там карьерных возможностей, чтобы мы с вами преодолели стеклянный потолок и вообще, чтобы все инструменты нам в равной же степени были доступны. Вот за это нам до сих пор приходится бороться. Ну, что делать, будем это делать.

Валентин Малых 1:39:25
Удачи! Да, удачи в борьбе. Ладно, всё, пока-пока.