Капитанский мостик - 7 | Дмитрий Колодезев

16.08.2025
16.08.2025
подкасты

Записали с Валентином Малых седьмой выпуск подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. В этот раз с нами снова Алексей Натекин.

Площадки

Содержание

00:00:00 вступление
00:00:26 Бабушкин ушел из xAI
00:03:25 как модели без глаз видят Землю
00:11:40 кто пишет тексты за LLM?
00:25:55 GLM-4.5V
00:31:27 OS для ИИ
00:33:27 Intel национализируют?
00:42:07 AMD Ryzen AI Max+ 395
00:47:08 DeepSeek не смогли натренировать
00:57:55 в Британии засуха из-за фоточек
01:04:42 Claude за 1 доллар
01:07:14 преподаватели не умеют в ИИ
01:15:49 подростка скрутили за комментарий
01:24:35 кружок по ИИ для школьников
01:26:33 GPT5 не решила олимпиаду
01:35:08 студентка бросила учебу из-за ИИ

Ссылки

Валентин Малых 0:00
Всем привет! Меня зовут Валентин Малых, со мной Дмитрий Колодезев и Алексей Натёкин. Мы начинаем очередной подкаст «Капитанский мостик». Спасибо Диме. У нас теперь появились площадки подкастовые непосредственные, так что дадим ссылки. Пожалуйста, подписывайтесь везде, где нас слушаете, где нас смотрите. И что, будем начинать? Ну что, первая новость. На самом деле новость не про маску, а маску тут скорее случайно. А в целом новость такая, что был в стартапе xAI. Я не знаю, можно считать его стартапом или это уже полноценная корпорация, как сейчас принято, я не готов сказать. Короче, вот в этой замечательной конторе был. Такой человек, как Игорь Бабушкин, вроде как не родственник, насколько я знаю, но я уже видел реакцию, собственно, нашего бабушкина, в смысле Валеры, который сказал, что Игорь всё правильно сделал, в смысле ушёл из xAI, и он основал свой, этот самый, как сказать, «венчурный фонд», наверное, как-то так. Вот, так что я вот к своему студу узнал только из этой новости, что там был Игорь Бабушкин.

Дмитрий Колодезев 1:16
Ну, нормальный путь, как опять же Валера написал, что если у тебя есть, ну, по другому поводу, если у тебя есть уже 100 лямов, можно идти в внутренние стартапы. А вот поэтому.

Валентин Малых 1:29
Ну, в целом, да, в целом, когда у тебя действительно подушка безопасности есть, можно уже идти куда хочешь, это правда.

Алексей Натёкин 1:35
Ну, мне добавить нечего. Вот в Mattermost там была такая инсинуация, что, может быть, возглавит Yandex Research. Вот, ну, в этой новости на самом деле всё понятно, что это история, что. А теперь я открою свой маленький звичной заводик, буду это самое вкладывать. Пока есть что и пока дают и берут, вот, но тут могла бы быть колкая новость про то, что прогрессивные политики про 9-9-6, а может быть и 7-10-7, вот, ждали бы в отечественных исследовательских лабораториях, вот, но. Ну, как говорится, ещё не вечер, вот, но про венчурные фонды и вот это вот прочее сквозна история этого лета. Денег выдавали много, деньги прожигали, на халявные аккаунты всем раздавали, вот, и начали лавочку прикрывать, потому что внезапно золото начало заканчиваться. Никогда такого не было, и вот опять.

Валентин Малых 2:46
Слушай, это интересно. Ты завернул. Я как-то не думал, что это напрямую с этим связано. Тут была новость, я её не стал включать, потому что она напрямую к нам не относится, что аналитики прогнозируют урезание премий по всем направлениям, ну не только по AI, а вообще по всем. То есть люди чувствуют, как предчувствуют какой-то кризис.

Алексей Натёкин 3:11
Это самое прогнозирует урезание аналитиков.

Валентин Малых 3:17
Это мы вырежем, плохая шутка. Ладно, что тут, наверное, всё обсудили. Дальше довольно эзотерическая история. Я, честно говоря, не знаю автора данной работы, но, наверное, это какой-то хороший человек. И он сделал довольно интересную, скажем так, задачку по себе поставил. Он решил понять, есть ли внутри соответственно. Внутри картины мира большой языковой модели, в частности, он исследовал понятие о том, как вообще выглядит карта мира. И он делал достаточно просто. Тут где-то есть сверху промпт. Он говорил, что вот я даю тебе точку и скажи мне. Это земля или вода, и всё. То есть, больше делать ничего не надо, только вот это. И тогда, соответственно, он накладывал зелёненьким землю, синеньким воду, и вот у него получалось нечто для третьего Qwen даже похожее на карту мира в Mercator projection, конечно же.

Алексей Натёкин 4:35
Я очень позалипал на эту статью, вот в ней много всего забавного и можно повтопить про самый конец. Тут дизайн эксперимента несколько интереснее в том, что да, стандартный prompt был такой, он старался вытаскивать log-probs для земли и для воды отдельно там, где это давали, но это давали не везде, поэтому. Там, где моделька такого вывода не даёт, ну то есть практически все, ну там, например, из Gemini только одна какая-то конкретно такое давала. Ему надо было четыре раза подряд sample эту конкретную локацию и усреднять. Тут ещё маленький нюанс, что это не совсем Mercator, оно там как-то называется, ortho что-то. Ну, то есть, тут можно прямо посмотреть, что он не совсем меркатором получается. Но тем не менее, концепт такой, и в зависимости от того, сколько стоит моделька, вот разрешение будет больше или меньше. То есть, например, там для каких-то локальных моделек можно прямо совсем маленькие пиксели было себе запускать, смотреть, а вот что получится. Для больших дорогих, типа Opus, ну типа разрешение значительно меньше. На самом деле сам автор делает очень важный дисклеймер, что ему абсолютно пофигу на то, насколько четко у него весь дизайн эксперимента, насколько четко у него прописан весь протокол, как это делать-не делать. Он просто смотрел, а есть ли что, скажем так, консистентное про картину мира у моделек, которые сами ничего никогда не видели, ну, напрямую. И это получилось настолько суперзанимательно. Вот, далеко идущие выводы — это то, что начиная с какого-то размера карта начинает приобретать сколько-то более-менее адекватное представление. В целом, эту карту там в самом конце пролистать до самого последнего такого эзотерического графика про Plato's world of ideas. Вот что в целом нашу планету и карту можно представить вот таким вот простеньким способом, что если мозгов не хватает, то ты видишь карту примерно вот как ниже, ну то есть правый верхний квадрант. Вот, а если у тебя что-то в голове есть, то оно начинается с примерно вот такого представления, как выглядит мир. Вот, эксперимент суперзалипательный, не знаю, можно обсудить что-нибудь по отдельности. Некоторые модельки очень сильно отличаются друг от друга, от некоторых ждали что-то, ну, значительно более подробное, но получилась фигня. Далеко не все модельки признают существование Антарктиды.

Валентин Малых 7:29
Ну, про неё просто пишут мало. Я думаю, в этом вся идея. То есть, ну, тут я бы заметил следующее, что то, что модели ничего не видели, ну, это немножко там хайповый заголовок, но смысл-то в том, что это просто текстовые модели, они обрабатывают текст. И вопрос именно в том, что... Люди пишут в основном про те места, где, ну как ни странно, бывают. Да, то есть понятно, что в основном пишут про там. Европу, Северную Америку, Азию, ну сколько-то про Африку, уже меньше про Австралию, а про Антарктиду, ну соответственно, написано там три с половиной научных отчетов, которые, ну да, моделька может и видела, но в общем она вполне могла их легко проигнорировать, да, то есть это про то, что. Представление модели о существовании какой-либо Земли сводится к тому, насколько часто она про неё читала. На мой взгляд, тут даже никакой конспирологии нет. То есть, никто специально это не закладывал, и в принципе понятно, что модели не могли видеть карту, потому что у них нет такой возможности. Но тем не менее, они знают общую картину мира, которая вот преломляется каким-то таким образом.

Алексей Натёкин 8:40
Перебил, и, естественно, модели, когда учились, им не говорили, что вот, а сейчас мы тебе расскажем про очередной памятник такому-то генералу с геопривязкой по координатам. То есть это всё равно надо было как-то размазать по своим внутренним представлениям.

Дмитрий Колодезев 8:59
Ну, на самом деле, что тут хотелось отметить, что, во-первых, А тут получается случайная проекция прагматики. То есть мы взяли какую-то вещь, которую никто не учил, и на ней смотрим, как на самом-то деле картина мира формируется. Она ведь не только в координаторах формируется, во всех других вещах. Вот, то есть это просто такой прокси-метрика того, как вообще мир устроен у модельки. И видно, с каких размеров она у него появляется. Это более-менее устойчивая картина мира, как она портится инстрактом, и насколько всё-таки ущербная Mistral.

Валентин Малых 9:38
Ну да, на мой взгляд, наиболее такой характерный переход от маленьких моделей к чуть-чуть побольше, и тогда у них сразу что-то появляется. Да, в самом начале там было красивое, что там сначала всё зелёное, а потом что-то начинается, начинает проявляться более-менее вменяемое. Ну, Mistral, да.

Дмитрий Колодезев 10:02
Как качество Qwen, Llama и GPT интересно посмотреть, то есть коммерческих и открытых моделей. У него в общем-то похоже.

Валентин Малых 10:13
Слушай, ну тут я бы сказал, что качество — это какое-то очень такая совсем proxy metric.

Дмитрий Колодезев 10:20
Прагматика именно, которую они собрали. Я впервые увидел картины из эмбеддингов, когда анализировали продажи магазинов в Европе. Вот и получилось там, что ты такой анализируешь продажи, строишь эмбеддинг, и в этом эмбеддинг есть проекция, которая очень хорошо отображает как раз их расположение в Европе этих магазинов. То есть банально просто обычные эмбеддинг по продажам выучивали географию. Вот, ну то есть по капле воды ты вот познаешь океан. В общем, такие вот истории.

Валентин Малых 10:59
Ну, мне кажется, это из-за того, что как же это называется, да, холистический подход, я вспомнил. У нас всё связано со всем, то есть продажи напрямую привязаны к географии. Ну, условно говоря, я вот живу на севере Москвы, да, и, соответственно, мне выгоднее по времени чисто ездить в какой-нибудь там Рио на Дмитровке, а не Рио на Ленинском проспекте, да, и это... Потому что в один мне ехать там, условно говоря, 20 минут, а в другой мне ехать полтора часа. Ну и как бы вот продажи Рио будут привязаны к моему местоположению, просто поэтому банально. Давайте переходить к следующему, к следующей новости. Это достаточно интересный такой подход. Тут довольно много интересных мыслей. Я даже, честно говоря, не знаю, как их паковывать, потому что здесь сама по себе. Сама по себе статья довольно объёмная. У неё тоже хайповый заголовок. Ну, сейчас все как-то любят хайповые заголовки, в том числе мы. Что скрывать? Соответственно, она называется doom prompting, из неё doom scrolling. То бишь, даже не знаю как. Перевести так грамотно, что у нас теперь промты, то есть мы. Даём какие-то затравки про ужас, ужас, ужас, для того чтобы уже теперь не новости про ужас, ужас, ужас читать, а чтобы нам... Вот это всё генерировала LLM. Ну, так, конечно, эффективнее. Я согласен, зачем новости, когда можно LLM и всё получить, всё, что хочешь? Но в целом, на самом деле, статья не совсем про это. Насколько я её понял, я, честно скажу, не настолько глубоко прямо погрузился, но некоторые мысли мне прямо показались отсюда очень интересными, и я думаю, что Дима даже больше расскажет про то, что Тут есть, но вот то, на что я хотел обратить внимание, вот меня привлёк вот этот кусочек, где автор говорит, что. LLM, ну здесь про LLM речь идет, но в принципе любой AI не сделает то, что автор называет main thing, то есть нечто главное. То есть он или она, я честно говоря, не знаю, говорит, что... Я когда пишу тексты, я, соответственно, сначала формулирую идею, потом AI эту идею как-то дорабатывает, потом я пишу, соответственно, базовый тезис, и AI его как-то мне там проверяет, добавляет. Какие-то свои добавки, да, то есть, идея в том, что когда ты пишешь текст, как ни странно, ты его пишешь, именно ты. Я бы хотел здесь на самом деле даже акцентировать, потому что многие люди стали относиться к LLM как будто LLM пишет тексты. Это неправда. LLM может писать слова. Некоторый набор шаблонных фраз прекрасно пишет. И оно может ваш тезис развернуть, но это ваш тезис. Вы пишете текст, и за его связность и смысловую наполненность отвечаете именно вы. То есть, именно человек может вложить некоторый смысл в текст, иначе у нас получается просто какой-то Я не знаю, какой-то шум. Да, то есть это вот Lorem Ipsum, как он есть. Собственно, если кто не знает, Lorem Ipsum когда-то был, на самом деле, вообще говоря, это настоящий кусок какого-то текста, но сейчас это просто некий шаблонный текст, который заполняет пространство, и не более того, то есть он несёт информации никакой определённой.

Дмитрий Колодезев 14:44
Ну, тут, во-первых, про то, что пишем мы и отвечаем мы. Есть такая штука, что ну вот, когда ты начинаешь внедрять LLM в разработку, разработчики начинают говорить, это LLM так написала. В этот момент надо доставать линейку и говорить, нет, это ты так написал. Вот, просто LLM была прослойкой между экраном. клавиатурой, вот и. История в том, что когда мы что-то Пишем с помощью LLM, авторучки, или надиктовывая секретарши, или неважно, кто у нас посредником в этом случае выступает. Мы сами слушаем то, что сказали, то есть мы слушаем то, что несем. И на самом деле мы тоже авторегрессионная модель. Мы генерируем, думаем над тем, что написали. Генерируем дальше и улучшаем. И вот в моем собственном опыте всегда работало, когда какая-нибудь сложная вещь распиливаешь, переобразование формата. То есть у тебя есть описание в виде текста, ты перерисовал её диаграммой. У тебя есть диаграмма, ты переписал её кодом. У тебя есть код, ты переписал его текстом. И само по себе это преобразование механическое, то есть Rashvel Rosa был инструмент, который это должен был механизировать. Но он бесполезный, потому что всё самое полезное возникает в тот момент, когда ты страдаешь, пытаешь преобразовать одно в другое и находишь нестыковки. Вот, и тут у меня есть один знакомый, который занимается образованием, прям хороший такой крутой образователь, Вдовин Евгений Петрович, и он учит людей математики, он тополог сам по себе. Вот и он учит детей математики с применением нейрона, говорит, да пожалуйста, пользуйтесь. Только вы не решаете с её помощью, вы сделайте так, чтобы она вам решила. То есть вы добейтесь от неё, чтобы она решила задачу. Вы объясните ей задачу, приведите её к тому, чтобы она выдала решение правильно и так далее. То есть проведите её. И выясняется, что дети, которые вот так делали, они потом круто понимают математику.

Валентин Малых 16:57
Слушай, ну есть же старый анекдот на эту тему, что три раза объяснял студентам задачу уже сам понял. Невозможно, такие студенты. В общем, идея в чем? Что когда ты, собственно, начинаешь преподавать, ну вот я на своем опыте могу рассказать, что когда я начал преподавать машинное обучение, это было какое-то количество лет назад, наверное, уже больше десяти, какой ужас! Соответственно. Я сам гораздо глубже начал понимать, потому что когда ты пытаешься объяснить что-то, для того чтобы объяснить, тебе надо собственно это через себя пропустить. Потом уже какими-то простыми словами изложить. Более того, это, кстати, ещё очень важно. И, может быть, Ну, твоему коллеге это, ну, как некий дополнительный приём в его образовании. Я считаю, что вот то, что он придумал, это реально гениальный ход. Так вот, более того, я обнаружил со временем, что одни и те же слова люди... Понимают по-разному, в том смысле, что одному человеку ты объясняешь, и он понял, а другому человеку те же самые слова непонятны. И тебе надо придумать, как объяснить то же самое, только уже другими словами. Поэтому На мой взгляд, было бы полезно объяснять одну и ту же задачу, например, двум LLM. Да, то есть две разные LLM, не знаю, там Gemini и Claude. Ну, к примеру, я тут вообще без относительно торговых марок, просто какие-то две разные LLM и объяснить двум LLM, это значит, что ты ещё глубже задачу понял и ты ещё глубже для себя раскрыл, что вот как она должна быть.

Дмитрий Колодезев 18:39
Ну да, и просто как под конец добавить, что есть такая штука, что, например, мальчиков нельзя хвалить за намерение сделать что-то, их надо хвалить за факт того, что они сделали. Потому что иначе у мальчика прилетает ему допамин, ага, я всё сделал. То есть меня похвалили, всё случилось, можно дальше не делать. Вот и когда мы обсуждаем какую-то задачу с LLM, у нас возникает. Особенно когда она много обсуждает, и мы такие, фу-фу-фу, у нас возникает ощущение, что да, всё же решилось, всё же понятно, всё очень правдоподобно. То, что Лурия называл предмыслим. То есть оно выглядит как мысль, крякает как мысль, но это не мысль. Вот и предмысль — это когда тебе кажется, что ты понял всю математику, пытаешься кому-то объяснить, а у тебя изо рта вытекает что-то такое очень разумное. И вот, да-да-да, и вот получается, что когда мы ищем решения с LLM, мы можем их использовать как Инструмент для преобразования текста, что в общем само по себе хорошо и удобно, он избавляет от нас черновой работы. А можем использовать их как инструменты для поиска смысла. И вот в данном случае смысл всё-таки надо искать самим.

Валентин Малых 20:03
Слушай, я полностью согласен, потому что смысл вообще вот. Мы уже сегодня упоминали «Платоновский мир идей», и кажется, что это довольно связанные вещи. То есть, вот что такое смысл? Как бы, некий у меня была забавная история. На парах, когда я ещё учился на Phystech, мы как-то приходили сдавать, соответственно, какую-то лабу. Я забыл уже какую. Важно, что мой одногруппник значит, приносит лабу. Ну, честно скажем, скатаную лабу, и, соответственно, эту лабу пытается сдавать. И преподаватель задает ему очень простой вопрос. А какой у вас физический смысл в том, что вы рассказываете? Ну и соответственно, одногруппник на голубом глазу пытается, перелистывая страницы, найти, где же написан физический смысл в том, что он пытает создавать. Понятно, что он там мало чего нашел в силу того, что надо сначала понять, и тогда у тебя физический смысл в голове возникает. То есть. Тебе нужно понять, а вот что такое понимание, мы толком на самом деле не можем сказать, потому что у нас даже по большому счёту нет. Как бы определение для этого, да, то есть мне кажется, что всё это упирается в как раз понимание разума. Разум и смысл — вещи взаимосвязанные, потому что смысл только в разуме возникает. И так как мы этого ничего не знаем, мы только по приборам можем определить, что вот здесь есть смысл, а здесь смысла нет.

Алексей Натёкин 21:37
Обсуждение обучению, вот последние 5 минут с тобой неоднократно обсуждали. Вот это всё про learning design, вот если отринуть текущие. Представление о том, как учить людей, и немножко посмотреть там про тот же самый learning, про то, что у человека. Знания только создаются, нельзя передать знания. Знания существуют в конкретной голове конкретного человека. Ты коммуницируешь что-то, чтобы у собеседника Образовались новые знания. Вот, а в его голове они, вот два соседних студента, они вообще совершенно необязательно должны мычиться. И более того, вот эта классическая история, что вот один понял сразу, другой не понял сразу. Я уже не помню, где услышал прекрасное определение. Вот из ещё древних своих консалсовских времён, помню, многие говорили такое страшное слово — insight. Вот нам нужны инсайты, вот как тут что работает. Так вот, insight — это Уже не помню, откуда услышано банальность, принятая вовнутрь. Это когда тебе говорят одно и то же, одно и то же, одно и то же, и в какой-то момент у тебя перещелкивает, типа, ага, смачилась. При этом как бы посыл и месседж вообще не менялся. Вот, но это всё внутренняя механика того, как работает голова. Тут я не уверен, что может ли быть какая-то серебряная пуля, но идея. Про которую рассказал Дима от своего коллеги. Про то, что заставить студентов. Самих объяснять ЛЛМкам, что им от этого надо, чтобы, условно говоря, на третий раз они сами поняли задачу, как в этой шутке. Вот это вообще может быть рабочим номером, причём на полном серьёзе дать им несколько ЛЛМок, в том числе и ущербные Mistral, Devstral, и отдельно Qwen, вот вам отдельно GLM, вот вам отдельно DeepSeek. Вот можете ещё там с бесплатными попробовать. Ну, по моему опыту, правда, все китайцы, вот они не знают. Имеется в виду китайские LLMки. Они такие, типа, да, шеф, вот под козырёк, вот я всё делаю, делаю, делаю, делаю, делаю, делаю, делаю. И в том числе много там тинкинга, и они сами себя в тинкинге челленджат. Ну, то есть, я просто с проприетарными модельками, типа, GPT. Очень редко лажу к ним на сайт, просто проверить, посмотреть. Ну, короче, базовые вещи не из своих закрытых тестов делать. А если вернуться ещё к этой статье? Во-первых, концепция middle-to-middle, она прикольная, но вот в этом же твите, который всё это время шарился на экране, есть один нюанс, что главный bottleneck — это всё-таки, ну, они по правильным концам сделаны, но главный, драматичный bottleneck сейчас — это вот то, про что говорил Дима, то, что... Шипят, словно написали сами, но это они же ответственны за то, что они одобрили, что зашипить. Ну то есть вместо кодинга сейчас валидация кода и код-ревью. Вот, короче, диспропорционально более востребованы. В этой статье, кстати, помимо классного термина DOOM prompting, ну, потому что зачем тебе DOOM скроллить какие-то паблики, которые и так уже скоро будут чуть менее чем полностью сгенерированными, а ты можешь сразу, короче, к источнику своей симуляции примкнуть и DOOM promptить его. А мне понравилась в самом-самом конце идея про то, что... Не уменьшайте трение, делайте сервисы с friction, чтобы люди немножко пострадали. И, ну, короче, не думали, что всё так просто.

Валентин Малых 25:41
Что тут можно закончить? Мы вроде обсудили довольно глубоко и можем порекомендовать всю статью целиком прочитать. Тут действительно много всяких мыслей. Я предлагаю более простым для обсуждения вещам переключиться. Собственно, вышла моделька GLM-4.5V Давай, Лёша, тебе слово.

Алексей Натёкин 26:04
Когда я её закидывал, у меня был очень простой комментарий, что китайцы продолжают жечь и зажигать. Относительно недавно вышли GLM-4.5, большая. Трёхсот тридцати миллиардная модель, которая отлично подходит под всего, и агентный кодинг, и рассуждения, и всё, ну короче, всё подряд. Вышел GLM-4.5 Air, легковесная моделька на 110 миллиардов параметров, которая тоже очень отличный кодер. Ну, то есть, вот я играюсь в основном с Air. И вот они сейчас выпустили мультимодальную модель, которая... Предназначена именно под Vision-Enabled Tasks. То есть ты закидываешь скриншот с табличкой, просишь, типа, выдай мне Markdown этой таблички, или спрашиваешь, вот буквально этот скриншот ей закидываешь и спрашиваешь, типа, что происходит на этом изображении. Вот, ну и ещё можешь порасспрашивать, типа, а вот. Кто из других моделей помимо этой лучше и почему? Вот эта моделька открытая прямо сейчас. Вы можете её скачать, вы можете её старо запустить. В данный момент, что у LM Studio, что у Ollama, по своим причинам эта моделька. Ну, не запускается, точнее, при попытке её запустить, там сыпятся ошибки у Ollama, потому что они слишком сильно легли под OpenAI из GPT OSS, форкнулись, всё переделали, половина вещей перестала работать. Ну, те, кто пользуется Ollama, знают эту историю. Это LM Studio, несмотря на то, что это MLX Engine, либо llama.cpp. Тоже сейчас временные ошибки, но опять же, те, кто смотрит и наблюдают за происходящим, по два-три билда официальных LM Studio в неделю, последние три недели — это норма. У меня есть такое подозрение, что эта моделька, она, ну, практически, наверное, У нас там будет дальше отдельная новость, но скорее всего на этой модельке можно плюс-минус закрывать лето и ждать очередного всплеска массовых публикаций большого количества моделек. Ну, потому что за лето и летний сезон Конференции практически все отстрелялись, и возможно, GLM-GLM-4.5V это. Заначка, либо недоделка, либо допилка чего-то. Аналогично тому, как третий Qwen, буквально salami publishing, каждую неделю или два раза в неделю по кусочку третьего Qwen выкладывали. Сначала большую, потом поменьше, потом большую тинкинг, потом... А, нет, потом кодер, потом большую тинкинг. Ну, в общем, так они месяц Qwen и публиковали. Возможно, это такая же история. Да, кстати, поиграться с этой моделькой бесплатно можно на Z.ai. Буквально там выбирайте, там на выбор, собственно, эти три модели GLM-4.5, 4.5R, GLM-4.5V. По-моему, там можно ещё какую-то старую legacy модель выбрать, чисто помечмаркать, но не суть важна. Ну, то есть, вот эти эксперименты с этой же самой табличкой можно на Z.ai делать. Вот. Штука классная, я жду, когда, собственно, побагфиксят что ламу, что метал, что ламу. Вот, ну, чтобы этим было удобнее пользоваться. И опять же, все приглашаются приобщиться, больше крутых открытых моделек. Если кто-то из вас пробовал, поделитесь.

Дмитрий Колодезев 29:39
Алеша, а что у них русский?

Алексей Натёкин 29:43
А с русским я её конкретно не бенчмаркал на русских табличках, но у GLM-4.5 и с русским всё хорошо. И 4.5, и 4.5 Air. Стихи я их писать не просил, но базовые вещи, типа, напишите мне такой-то шаблончик письма, расскажите мне это самое, что произошло, ну, короче, в этом конкретном небольшом кусочке текста это всё работает. У китайцев с русским. Не знаю, у вас такой же опыт, как у меня или нет. Иногда бывают разные вещи. Я вот буквально сейчас пойду, полезу. Они иногда достаточно странные слова подбирают. Вот у GLM-4.5 он мне В какой-то момент, вот Гайлана четыре с половиной, мы понимаем, что это известие может быть разочаровывающе. Карл, слово известие — это штука непростая. А DeepSeek, большой DeepSeek, может аналицизм поставить посреди текста, типа.

Валентин Малых 30:55
Ну да, мы такое замечали, что DeepSeek, соответственно, может и китайские иероглифы вставлять, и, соответственно, английские слова не к месту. Это, в общем, действительно наблюдается. Ну, как бы, русский не является целевым языком. Давайте по-честному на это смотреть, поэтому и не только русский, ну да, нет, китайский и английский. Ладно, я думаю, что тут можно обсудить следующую историю. Собственно, тоже Leha её притащил. Это некая операционная система для AI-кодинга. Leha, скажи, что это?

Алексей Натёкин 31:39
Операционная система. Ну, операционная, наверное, только в том, что в Docker-образе всё-таки какая-то операционная система там заиспользована. Я не знаю, какой-нибудь очередной Alpine Linux. Как какой-то версии, вот, а подавалось это всё буквально как операционная система, типа, о, мы сейчас следующее поколение. Вот этих вот CLI интерфейсов под agentic coding. Завезём. Честно, это скорее просто прикольная, красивенькая, ну сразу видно, как она на, ну не обязательно vibe coding, но короче, там прямо понятно по каким рецептам и лекалам оно генерилось, особенно вот эти вот мануалы, best practices, по поводу того, чтобы подсунуть красивые, блестящие. React UI-компоненты, ну, библиотечные этих компонент. На самом деле, штука достаточно прикольная в том плане, что у неё отдельно и, короче, BD-подраги и MCP, чтобы это всё связывать, и красивенький интерфейс, и даже часть вещей с, ну, парсинга подобными. MCP включены. Ну то есть это скорее в красивую обертку завернутый пак разных инструментов. Не так фундаментально, как это звучит и как это пытались подать на Reddit. Вот, но Прикольно, можно поиграться из локальных моделек только с Ollama интеграция, ну что на самом деле, как говорится, с пивом покатят, но не настолько фундаментально, как оно звучит. Просто красиво обёрнутая сборка разных вещей в одном пакете.

Валентин Малых 33:22
Окей, я думаю, тогда здесь всё обсудили. Следующая новость у нас про Intel. Значит, Трамп, ну не сам Трамп, его, как тут написано, администрация, то есть. Люди, которые работают с президентом США, они решили использовать некий специальный закон. Там недавно был выпущен специальный закон, который, по-моему, они назвали CHIPS Act. Соответственно, имеется в виду, что закон направлен на то, чтобы в США выпускали микрочипы. И соответственно, под этот закон. Люди решили, давайте-ка мы проинвестируем в Intel. И причем, если так прочитать невнимательно, как я и сделал, мне даже показалось, что это чуть ли не национализация Intel. То есть, понятно, что все таких слов избегают. США особенно боятся таких слов, поэтому это просто некое. Правительство инвестирует в частную компанию, получают часть акций. Ну, если это не инициализация, ну, не знаю, наверное, это просто инвестиции. Так и теперь выглядят. Поэтому кажется, что это достаточно серьёзная заявка. Ну, не то что заявка, да, это серьёзная. Попытка повлиять на то, чтобы Intel не утонул, потому что я думаю, все в курсе, что Intel последние годы, и особенно последний год, тонет очень активно, но пытаются спасти, потому что нужен. Нужен какой-то производитель чипов в США с большими компетенциями, и если останется одна NVIDIA, то с ней будет сложно разговаривать. Кстати, здесь можно вспомнить историю, не все в курсе, но вообще-то компания AMD, которая сейчас... Ну, с Intel слабо конкурирует, но тем не менее, в своё время она была создана так, что Intel, тогда уже существовавший, прямо заставили, вот прямо напрямую заставили продать патенты на свои первые процессоры, соответственно, 4086. AMD для того чтобы AMD составляла конкуренцию Intel. И вот за счёт этого, соответственно, сделали две конкурирующие фирмы, которые довольно долго существовали, пока Intel всех не заборол.

Дмитрий Колодезев 35:50
Ну и теперь сам уже тонет. Умеет в чипы, не в NVIDIA да, то это Qualcomm конечно, и AMD но и Qualcomm и AMD делают в Тайване а Intel делает на своих заводах. Поэтому выбор того американского правительства не то чтобы шибко богатый. То есть, либо ты деньги на восстановление отечественной микроэлектроники отдаёшь в Тайвань, либо Intel. Вариант.

Алексей Натёкин 36:22
Несколько важных уточнений. CHIPS Act — это про золото, чтобы производство было в Штатах, и TSMC уже строит большой завод в производстве чипов, ну, в Тайване. В Штатах, я сейчас не вспомню, какой штат, аризонный, не аризонный, а не важно. Это не самая передовая линия, то есть два нанометра они сейчас доделывают у себя на Тайване. Вот, но как вы знаете, это самое. Помимо того, что эти нанометры, начиная с 14, не имеют связи с физической реальностью, они ещё и переиспользуются практически повсеместно, не только процессоры, ну не только CPU, а также GPU. Нужны чипы, чипами усеяно всё подряд. Конкретно в случае с Intel ситуация достаточно сложная, учитывая то, что они... Сами дизайны и архитектуру проектируют, например, NVIDIA только архитектуру проектирует, всё заказывают. Это самое у исполнителя, ну конкретно у TSMC в основном. Вот, а у Intel есть fab, у Intel есть разные линии. По иронии судьбы CPU Intel нужны мало кому, а вот их GPU-бизнес внезапно, внезапно дышит более-менее нормально, учитывая то, на какое. Поле конкуренции не выходит с NVIDIA и AMD. Вот, CHIPS Act. Ну да, теперь у нас национализация такая, что вот государство хочет закинуть денег. Выглядит на самом деле всё так, что Intel, скорее всего, Ну, вынудят распилить себя на разные куски, дескать, вот фабы отдельно, вот ваше там, не знаю, GPU подразделение отдельно, ваши патенты и всё. Ой, кстати, вспоминаю про Intel. Intel же уже дербанят более чем активно там. Это не Intel ли всё своё мобильное подразделение годика полтора назад был продан Apple?

Валентин Малых 38:30
Честно говоря, я не помню такого. Я не говорю, что этого не было, но я, видимо, не следил за такого рода новостями. Но Intel, как минимум, продал свои софтовые разработки. У них был достаточно большой. Софтовый кластер в Израиле. Они там делали всякие самодвижущиеся повозки, ну в смысле не сами повозки, а всякие помощники для водителей, вот это всё. И, собственно, OpenCV, это же тоже Intel в своё время проспонсировал, купив Нижегородскую контору, которая её делала, а потом ещё раз её купив, но это уже совсем другая история. А сейчас, насколько я помню, они всё это попродавали, потому что они пытаются сосредоточиться на производстве железок. Но вот ты сказал про то, что у них каким-то образом AI-ные компоненты куда-то что-то могут делать. Я, честно говоря, первый раз такое слышу.

Алексей Натёкин 39:25
Не AI, ну, AI, наверное, для красного словца. Потребительские GPU, гейминговые, гейминговые, а также те, которые, предположительно, могут пойти в консоль.

Валентин Малых 39:36
Слушай, вот я слышал, что они пытались, и они даже сделали какую-то дешёвую карточку за 200 баксов, но она вроде утонула, насколько я понял. То есть она не пошла в народ, нет?

Алексей Натёкин 39:48
Нет, она пошла в народ. И, короче, это единственное, на что прям спрос значительно превышает предложения, и основной bottleneck — это количество произведенных карточек. Я единственное в палитре Intel.

Валентин Малых 40:01
А, ну то есть, окей, то есть они всё-таки сделали потребительскую карту нормально, но когда-нибудь, наверное, дойдут и до серверных карт через сколько-то лет.

Алексей Натёкин 40:12
Ну, зависит, так сказать, от разной обстановки. Я почему про мобильные подразделения вспомнил? Ну, относительно недавно. Ну, как относительно недавно, по-моему, всё-таки на оргсозвоне это обсуждали, что, о, вот, Apple уже свои модемы выпускает. Там, может быть, в этом году уже второе поколение модемов. На что внезапно от меня был отворот по ворот, типа, ага, Apple свои модемы. Вот, когда там год или два назад они просто полностью, за, условно говоря, миллиард другой, купили чьё-то мобильное подразделение, ну. Перелопатили себя, потому что задолбались платить Qualcomm.

Валентин Малых 40:55
Нет, одно дело бы за долбать платить Qualcomm. Я могу понять, что они действительно пытаются вот эту компетенцию у себя сохранить по производству чипов, но насколько я помню, у них там они купить-то купили, но до ума довели прям совсем не сразу. У них этот модем, он какой-то там очень с очень большими проблемами. Я читал новости, что они его несколько раз пытались запустить и не могли.

Алексей Натёкин 41:16
Да, поэтому они выпустили пока только самый первый модем в самые бюджетные линейки iPhone. Посмотреть, как вышло, и судя по утечкам, этот же модем потом, ну, этой осенью пойдёт в часы, в iPad и куда-то ещё. А, хе-хе, утечки Apple внезапно в AI новостях. Следующие MacBook'и же будут SIM-картами, ну, в общем, вот новое поколение этого модема пойдёт в MacBook'и, вот. Но это действительно история.

Дмитрий Колодезев 41:46
Есть потребительские карточки, и они действительно популярны в сегменте дешёвых игровых компьютеров. То есть у них много памяти, сравнительно много за их деньги. В общем, народ пользуется.

Валентин Малых 42:03
Окей, я думаю, что тут обсудили. Давайте к следующей новости. Как раз про AMD уже сегодня говорили. А тут AMD, соответственно, представили. Графический процессор уровня 4070. Они долго-долго пытались что-то такое сделать. В итоге всё-таки сделали, и это на самом деле большое событие, потому что у AMD, собственно, нормальных графических карт не было, насколько я помню. Сейчас вот появилась только карточка уровня 4070, и это означает, что теперь можно Более-менее что-то такое современное запускать на AMD-шных процессорах. В течение в текущих вопросов тоже оставляется в стороне то, что там нет CUDA и там, соответственно, надо всё это делать на вот этом вот ROCm, который у них есть. Но вроде бы как они что-то на эту тему делают. Я даже где-то видел новость. Правда, когда я стал её искать, я не смог найти ей подтверждение, что AMD, соответственно, сделала какую-то свою LLM и её даже представил. Но может, это какой-то фейк, и поэтому я не нашёл никакого подтверждения данной новости.

Дмитрий Колодезев 43:11
Слушай, ну, AMD, вообще-то говоря, делает видеокарточки, и всё с ними хорошо. Они достаточно мощные, то есть вот карточка на 16 ГБ GDDR6, она стоит 80 штук, и, в общем, вполне такая живчик, то есть геймеры их покупают.

Валентин Малых 43:36
Ну, шестнадцать памяти — это прямо уже нормально.

Дмитрий Колодезев 43:39
LLM-ки младшего уровня вполне себе влажны. Да, они нормально. Там проблемы, собственно, как раз в том, что у AMD плохо с CUDA, но, например, китайские фреймворки на ней работают. Тот же самый PaddlePaddle, по-моему, работает на AMD. А это как раз видеокарта, интегрированная в процессор. То есть, хитрость в том... Что когда мы ставим видеокарту отдельную GPU, у нас появляется огромный совершенно бутылочное горлышко при перекачке памяти. Да, данных в память карты и в память то, что у процессора и у GPU разный кэш, разная память, и там на этом, вообще говоря, всё и тормозит. Вот, а это интегрированная в процессор видеокарта. Нейросетевыми модулями, то есть, если я правильно понимаю, я не смотрел, что там с архитектурой, но в последних интеловских, кстати, процессорах, там несколько NPU стоят для расчета нейронок. Вот, и скорее всего, это что-то вот это же, то есть. Штука, которая позволяет разделять оперативную память процессора между видеокартой и самим процессором. А так как памяти там очень много, ну типа 96 гигов, то даже если она немножко тормозная, то с текущими LLM ты прямо будешь молодец играть.

Валентин Малых 45:07
Ну, за счёт того, что нет бутылочного горлышка от пересылки, это всё на CPU и обратно, а тут вполне можно что-то выиграть на кладных расходах.

Алексей Натёкин 45:15
Сразу дисклеймер, как я читал эту статью, я посмотрел, типа, ага, окей, это какой-то ответ яблочным системоначипам, начиная с M1 и до текущих, и в том числе до текущего. Чудища, на котором я всякое и гоняю. Вот, полистал бенчмарки, понял, что бенчмарки сплошь рядом Cinebench, и ничего там даже LLM-ки запускать не пытались, поэтому. Типа, это всё утиль, но выглядит так, что ну классно, что кто-то пытается подъедать поляну Apple, чтобы Apple со своими систем-оначипами больше шевелились и больше раскачивались. Я не понял из этой статьи, что тут за архитектура. Это, ну, судя по всему, x86, а не ARM. Ну, хотя бы, судя по TDP. Вот, ну, как бы, штучка, которая едва в Mac mini, вот, едва Mac mini соответствует, жрет в десять раз больше электричества, чем Mac mini. Вот, ну, типа, ну, nice to be. Зато, зато, зато, зато выиграть можно.

Валентин Малых 46:27
Да-да-да, но сейчас всё-таки на ARM игрушек поменьше, но ARM, наверное, в каком-то смысле действительно будущее, потому что и NVIDIA в них идёт тоже, и Apple в них уже давно там.

Алексей Натёкин 46:40
А translation layers, было бы желание, а через виртуалку поиграть.

Валентин Малых 46:45
Да-да-да, ну, я просто в своё время занимался бинарной трансляцией. Я могу сказать, что это довольно довольно грустное мероприятие в плане производительности. То есть, да, поиграть в тот же «квейк» можно было, но это требовало некоторого такой, некоторой усидчивости и вдумчивого подхода, давай так скажем. Вот, ну ладно, здесь обсудили. Давайте дальше про железки. Это довольно интересная новость. Где-то в начале года были слухи про то, что DeepSeek, когда вот он первый раз выстрелил. Он, соответственно, тут же они скооперировались с Huawei, и они захотели соответственно обучить свой DeepSeek на процессорах Huawei. Тогда были новости, что они его уже запустили, то есть он работает, но тогда он ещё не учился, а сейчас, соответственно. Вот R2, DeepSeek R2 был R1, все знают, да, вот теперь есть R2, точнее скоро должен быть. И этот R2, соответственно, пытались учить на процессорах Huawei. Скорее всего, то, что здесь сказано, имеет какое-то отношение к реальности. В каком смысле? Когда я, соответственно, с этими процессорами работал, действительно, там было довольно сырое программное обеспечение, то есть там же довольно много всяких. Вещей нужно сделать, то есть там есть свой промежуточный слой вместо CUDA, который называется CANN. И вот этот CANN, он, соответственно, ну довольно срой и, к сожалению, работал весьма так себе для обучения. Наверное, они приложили все усилия для того, чтобы его улучшить, но, видимо, для прям вот супер таких больших задач, как R2, скорее всего, R2 больше, чем R1, который 671 миллиард, то есть здесь можно ожидать триллион или, может быть, даже другой триллион, а из-за этого у нас, соответственно, получается. Такие большие задачи пока еще на этом программе с печеньем решать не получается. Ну и здесь пишут, что видимо. Они вернулись на железо от NVIDIA Правда, это не правда, отдельный вопрос, но тем не менее важно, что они пытаются, и я думаю, что там к следующему году уже доведут. Зная китайцев, они приложат все усилия и доведут. И вот это будет означать достаточно коренной перелом, потому что до этого. Топовые модели учились только на NVIDIA, то есть, была абсолютная монополия в этом смысле. Никакой Intel, никакой AMD, никто не мог это поколебать последние годы. И вот Huawei бросает вполне себе такой полноценный вызов, и это, на мой взгляд, довольно серьёзно. У меня, когда я читал эту статью...

Алексей Натёкин 49:27
Скажем так, неоднократно включался булшетметр, конкретно на R2. То есть всё, что ты говоришь про то, чтобы запускать и гонять. Глобальных масштабов по количеству юзеров, как минимум, инференса, а может быть, еще и обучение на Huawei's чипах. Ну, это на самом деле вопрос time to event. Ну, типа, когда это появится, тогда это появится. Все вот эти вот спекуляции, инсинуации, типа, партия требует, чтобы прямо сейчас выпускали R2 и на Huawei's чипах. Это черная метка этому автору. Вот это, короче, я посмотрел, типа, автор-автор, верим. Я просто однократно сталкивался с большим шквалом спекуляций, типа, о, скоро выходит R2, а какой он будет, что там будет.

Валентин Малых 50:16
Ну, слушай, когда будет, тогда будет. А вообще, статья изначально из Financial Times просто там поебал, поэтому я показать-то не могу. А соответственно, Financial Times — это боевой листок, как бы поэтому там, в общем. Достаточно определенного спектра мнения публикуется. В этом плане надо спокойно относиться. То есть, как раз их задача всячески демонизировать то, что происходит в Китае. В этом никаких сомнений нет. Но то, что вот этот политический. Заказ, да, тренируйте большие модели на своём железе. Я думаю, что вполне себе существует. Может быть, это не в виде того, что, соответственно, кому-то из горкома партии позвонили из шанхайского, да, что давай, пожалуйста, дорогой товарищ, тренируй на Ascend'ах, а скорее это было некое благое пожелание, да, высказанное где-то в кулуарах, и все просто взяли под козырёк и стали делать. В общем-то, вполне себе понятно, почему, на мой взгляд.

Алексей Натёкин 51:13
Ну, я думаю, они начали это делать и без звонка из горкома. Я отдельно хотел ещё докинуть, что... Триллион или не триллион параметров — это всё открытое в воздухе. Если вот я думаю, сейчас Дима может высказаться про геополитический обзор, я могу несколько вещей вбросить из серии спекуляции про то, что нас может ждать, и я почти, наверное, уверен, что... Корея — это будут даже ещё более потребительские, френдлии истории, чем Kimi K2, например.

Дмитрий Колодезев 51:53
Ну, я думаю, что тут вся эта из Сирии «Купляйте белорусская», то есть. Реально, китайцы, наверное, спрашивают, а что это вы на Huawei не тренируетесь? Но любой человек, который анализирует риски, он сам пойдёт там тренироваться на Huawei, потому что... H20 то едут, то не едут, то в них есть закладки, то в них нет закладок. И всегда ты будешь заложником, а тут, ну, в общем, на континенте делаются прямо карточки, надо на них переходить в любом случае. Но это будет круто, потому что на самом деле, когда NVIDIA не если, а когда NVIDIA потеряет монополию на вычислительные ускорители, тогда мир станет гораздо более открытым.

Валентин Малых 52:42
Он станет еще несколько более дешевым, я бы сказал. Ну, то есть, здесь можно привести в пример. Не все знают, но тут это как бы секрет Полишинели, что современная, допустим, цена бриллиантов. Она довольно сильно завышена относительно того, что вообще говоря, они в принципе должны стоить. В каком смысле? Дело в том, что сейчас фактической монополией на производство бриллиантов обладает компания De Beers, которая поддерживает существенно завышенную цену за счет, неважно, там есть довольно сложные механизмы регулирования. Рынка и все с этим, собственно, соглашаются. Просто потому что так всем выгодно. Ну, то есть, фактически, производители значит, бриллиантов, они продают к своей выгоде через De Beers. И здесь есть некий аналог, на мой взгляд, да, то есть, NVIDIA может поставлять свои. Чипы по любой цене, в том смысле, что закладывают любую маржу, которую хочет, потому что если ты хочешь тренировать свои топовые LLM, то ты будешь всё равно покупать, потому что где-то ещё на каком чайнике ты будешь это считать. А вот если будет Huawei, то тут уже будут другие разговоры, типа вот вы нам здесь не продаёте соответственно, эти ваши хорошие карточки, а мы пойдём к Huawei и купим у него. И вот тут это совершенно другой расклад.

Дмитрий Колодезев 54:10
Я работал с людьми, которые бурят дырки в земле, и у них есть буровые коронки. Это кусок стали, сверху приварен кусок меди, а в него вставлены алмазы. Много-много-много-много. Они не так хорошо огранены, точнее, никак не огранены, но их там гораздо больше, чем в приличном украшении. И стоят они гораздо дешевле просто потому, что на них особенно не спекулируешь. У них стоимость растет от Формируется от той пользы, которой они приносят всё. То есть у них есть заменитель. Ты можешь поставить победитовые коронки, они будут работать меньше. Можешь поставить эльборовые, а может алмазные. Вот и появление второго производителя чипов, а потом третьего, четвёртого. То есть на самом деле затем выкатит Samsung свои GPU. Выкатит как-нибудь и Qualcomm, как-нибудь их сделает. Оно неизбежно сделает этот бизнес не таким сверхприбыльным, а нас обеспечит хорошими инструментами.

Алексей Натёкин 55:10
Когда-то Cisco была как современная NVIDIA, а сейчас — вон какая богатая экосистема сетевых технологий и для офиса, и для дома. И ничего, мир стал лучше.

Валентин Малых 55:28
Собственно, если кто-то не знает, то и Huawei тоже Cisco немножко в этом плане подвигал. На самом деле, там довольно много китайцев, которые подвигали Cisco. Ну, Juniper, самый известный, наверное, те, кто откусили. В кусок рынка у Cisco и Cisco с тех пор, кстати, на всякий пожарный не все знают, что Cisco на самом деле не Cisco, а Cisco, потому что это сокращение от San Francisco, то есть это и логотип у них, собственно, этот Golden Gate, то есть золотые ворота в San Francisco. Поэтому Cisco я говорю чисто по привычке, если что, не кидайтесь ничем в комментариях. Вот так что да, я думаю, что мы все пришли к выводу, что монополия — это не очень хорошо, а когда есть здоровая конкуренция, это прекрасно. Вот давайте к следующей новости. Следующая новость — это как раз вот про то, что Леша упоминал, да, что. То H20 продают, то H20 не продают. Вот тут не помню конкретно в этой новости. Да, вот здесь тоже есть про 15 процентов, соответственно. Вот выручки они платят, так что в целом тут можно сказать, что я бы тоже на месте китайских товарищей еще три раза подумал и пошел к Huawei, потому что ну то их продают, то их продают с наценкой 150%, то их не продают совсем. Вот зачем такое счастье? Проще договориться со своими китайцами, которые, может, сделают и не так бодро, но сделают когда-нибудь, да, и они уж точно никуда не денутся с этой подводной лодки, они точно будут здесь и будут. Вам обеспечивать поддержку 24 на 8, если нужно, и ничего, никуда не денутся.

Алексей Натёкин 57:12
И чтобы немножко усугубить эту историю с H20, две недели назад у нас была новость про то, что китайцы очень беспокоятся на примет уязвимости и бэкдоров в H20. На этой неделе NVIDIA вышла и торжественно всем заявила, что у нас бэкдоров не было, нету и не будет.

Валентин Малых 57:34
И им, конечно же, все все поверили. Ну да, это само собой. Мне кажется, была ещё раз новая, что какие-то GPS-трекеры ещё раз нашли. Ну, в общем, ладно. Оставим это на новой, на совести NVIDIA. Я думаю, что здесь плюс-минус про железо поговорили, теперь про последствия от железа. На замечательном сайте GovUK, соответственно, публиковали новость, что В Британии начинается засуха. Ну, у них периодически такая засуха бывает. Летом, в общем, она много где бывает, не только у них. Но тут из интересного они порекомендовали всем удалять, соответственно, всякие старые фотки и всё на свете со своих. Виртуальных хранилищ, потому что каждая фоточка требует сколько-то миллиграмм воды. Там есть, соответственно, обзор. Того же самого агентства, честно говоря, не помню, что за агентство, какое-то тоже правительственное агентство Британии, которая сказала, что дата-центры потребляют довольно много не только электричества, но и воды на охлаждение. Да, тут вам не на риск, где ничего, чтобы охлаждать не надо, оно самоохлаждается. А вот у них всё-таки бывает жарко. И, соответственно, для того чтобы сэкономить вот эту воду, давайте не хранить лишнее, в том числе удаляйте свои нафиг фоточки, 150 фоток вашей кошки никому не нужны. Вот как бы намекает нам британское правительство. Дима, что хочешь сказать?

Дмитрий Колодезев 59:08
Низкая квалификация исполнителей, потому что если все кинутся, удалять свои. Фотки кошки, которые сейчас без движения там лежат на дисках, то использование воды только вырастет. И так, кстати, часто бывает, когда видят у слона только хвост и начинают за него дергать, со словами, что у нас тут за веревка валяется. Вот, а из интересных вещей, я пока читал все эти новости, я нашел. Отчёт Mistral, по-моему, где они говорят, что на 10 сгенерированных токенов они тратят один миллилитр водоохлаждения.

Валентин Малых 59:43
То есть, 100 литров воды на миллион токенов, правильно я посчитал?

Дмитрий Колодезев 59:46
Ну вот, да, но дело в том, что Mistral сам по себе его роль в экономике, прямо скажем, невелика. Вот, то есть, и опять же, этот отчёт про какую версию Mistral я тоже сейчас не скажу, но... Вода, да, вода тратится. Другое дело, что насколько охлаждение дата-центра конкурирует с поливами полей, мне вот не очень понятно. Потому что, ну, ты охладил дата-центры, да, и, в общем, потом полил поля, а как бы ничего страшного не случилось.

Валентин Малых 1:00:19
Ну да, мне кажется, там довольно чистая вода. Она, ну, она техническая, но её вполне можно для полива использовать. Другой вопрос, что дата-центры обычно не в полях стоят, то есть эту воду ещё надо как-то доставить, но это уже, наверное, не так важно.

Алексей Натёкин 1:00:32
Применительно к этой новости с цирком Шапито я бы ввел. Маленькую теорию заговора, что возможно кого-то. Вот в Великобритании держат это самое в заперти, и нам пытаются подать сигналы, или они пытаются подать сигналы гражданам, что скорее удаляйте свои соцсети, скоро мысли преступления пойдут в оборот. Но я хотел про воду добавить. Мне где-то попадалась сводка статистика, возможно, на пик проспырить. Они делают много всего связанного, в частности, с энергетикой в Штатах. Мало того, что резко нарастает потребность в дата-центрах, и мы обсуждали по энергетику, они столкнулись с такой проблемой, что им не хватает воды. То есть в этом году для постройки дата-центров, там цифра в районе, что только в этом году под дата-центры нужно в районе 50 миллиардов галлонов. Я не помню, как галлон к литру, но в общем, такое употребление. Просто очень плохо матчится на те регионы, где у них есть много электроэнергии. Вот, ну, где им выгоднее строить, ну, там, где юг и пустыня, и Колорадо, и вот эти все. Вот, они же там вроде в основном строят. Ну, короче, там по центру и где Юта ещё. Вот, но там вопросы с тем, что нужно очень много воды. И, в общем, там тоже бьют в набат на предмет того, что типа, окей, сейчас разоримся, сейчас построим, а что с водой, ладно. Blackout, brownout, вот тоже новояз, brownout, вот про недостаток электричества, вот потому что кому-то очень нужно срочно сгенерить краткий видосик с котиком, который кушает гамбургер. Вот, но ещё и воды будет не хватать, неловко будет.

Валентин Малых 1:02:24
Слушай, тут такая история, насколько я помню, ну, все, наверное, в курсе, что именно в Калифорнии у нас IT столица мира. Так вот, в Калифорнии... И опять же, не многие знают, но в Калифорнии довольно развитое сельское хозяйство, в частности, там большое производство вин и ещё там большое производство авокадо. А как оказалось... На выращивание одного авокадо надо что-то типа. Сто литров воды, по-моему, может быть больше, то есть там какое-то очень странное. Странное количество, прямо сильно больше, чем на какую-нибудь картошку. И, собственно, у них всерьез обсуждался вопрос, может быть, нам нафиг это всё авокадо. Давайте мы авокадо будем откуда-нибудь импортировать, а соответственно, воду пустим хотя бы на людей. Вот, так что проблемы с водой на юге США. США, надо напомнить, довольно южная страна, она, в общем, только усугубляется.

Дмитрий Колодезев 1:03:18
Ну, там вообще есть проблемы сельского хозяйства с плохой мелиорацией, кстати. То есть, там в своё время допустили засоление земель, и в результате эти земли, многие земли просто потеряли из сельскохозяйственного оборота из-за неправильного полива. Вот поэтому это больная штука. У нас же тоже проблема с водой. То есть у нас какие-то дома строят предприятия, не озабачиваясь тем, что есть вода, нет воды. То есть проблема воды — это, в общем, мировая проблема. За неё будут следующие войны, как говорят.

Валентин Малых 1:03:52
Ну да, собственно, по этому поводу ООН выпускает всякие. Коммьюники и прочие доклады на тему того, что нехватка воды становится только больше. У нас всё-таки чуть-чуть полегче. Да, у нас есть нехватка в южных районах воды, но, допустим, в средней полосе и в Сибири там особых проблем с водой нет пока что, по крайней мере. Ладненько, я думаю, что... Здесь мы искренне сочувствуем коллегам из Британии, что у них, соответственно, нехватка воды. Пусть приезжает к нам, у нас с водой всё хорошо пока что. Значит, следующая новость достаточно, ну, на мой взгляд, достаточно очевидная. Может быть, кому-то она покажется необычной, но. Новость довольно простая в том смысле, что Anthropic свои чат-боты, свои LLM предлагает правительству Соединенных Штатов за один доллар. Собственно, ответ мне кажется, здесь очевиден. Зачем так делать? Для того, чтобы, собственно, посадить на себя и чтобы потом брать денежку за использование. Есть ли какие-то другие мнения на этот счет?

Дмитрий Колодезев 1:05:02
Я вспомнил Форда с его заводами. Там же была такая история, когда началась война, а массово национализировали промышленность в Штатах. Вот, а Форд отполз потому, что он начал работать без прибыли на государства.

Валентин Малых 1:05:25
Угу, угу. Ну вот он очень правильно поступил. То есть, зачем, если у тебя могут отобрать, лучше же без прибыли поработать, а потом с развернутым производством всё сделать. Далее.

Алексей Натёкин 1:05:41
Что хотел добавить? На прошлой неделе понятно, что новости вокруг OpenAI были вокруг пятой GPT-5, но... Точно такая же новость про ChatGPT и OpenAI за один доллар для правительства штатов была на прошлой неделе. Ну, просто она шла мелким текстом, где-то там 55 новостью после всего, что происходит вокруг GPT-5. Мне кажется, что, ну, во-первых, схема, про которую сказал Дима. Ну, имеет очень высокое правдоподобие, но не меньше правдоподобия имеет ещё и та схема, что вот эта вот, короче, публичная часть. По публичной части мы с вами подписались, работаем с вами торжественно за один доллар. А есть вот ещё разные интересные допники, которые мы можем отдельно. С их министерством обороны обсудить отдельно с разными информационными. информ Информационными конторами, скажем так, и прочими. Ну, то есть, официально, вот один доллар.

Валентин Малых 1:06:48
А ну понятно, но ты имеешь в виду, что всяких опций можно наворотить, да, так-то пожалуйста, пользуйтесь. Ну, тут, на мой взгляд, идет пока борьба за рынок сбыта, то есть пока может даже без опций будут давать по доллару, потом будут прорабатывать все эти истории, когда уже будет понятно, кто в этой То вот пирога сколько откусил, да, соответственно, дальше уже начинаем наворачивать опции для того, чтобы отбивать инвестиции. Следующая новость у нас — это такое summary по состоянию на август. На август 25-го года просто приведено всякие полезные, условно, для студентов штуки. И из интересного, что Очевидно, но тем не менее стоит, наверное, сказать, это то, что. Студенты лучше пользуются ИИ, чем, соответственно, преподаватели. Ну, тут написано вообще в целом стафф, то есть все люди, которые работают в университете, не обязательно только преподаватели. В общем, это, по-моему, достаточно очевидно, что студенты, они, ну, банально моложе, как правило, да, и они, соответственно, в среднем лучше могут усваивать новые технологии. Ну и за счет этого наблюдается некоторая проблема с тем, что Ну, например, преподаватели могут хуже оценивать сгенерированные сочинения. Да, там много кто плакался на тему того, что вот мы теперь не можем давать студенту сочинения. И на мой взгляд, Дима вот в начале нашей беседы привел правильную историю, что тебе не надо, чтобы соответственно, тебе LLM за тебя решала, да, надо, чтобы LLM, ты объяснил LLM, что нужно решить, да, то же самое, что тебе нужно объяснить, какое сочинение ты хочешь, да, вот объясни, что конкретно ты хочешь, а не просто так.

Алексей Натёкин 1:08:43
Мне кажется, ну, первое, что я хотела провокационно вбросить, это то, что в универ за новой когортой студентиков пришёл местный дилер, первым подсадить на свои инструменты. Вот, и чья LLM будет первая в этом документе, вот. Тот платит больше за первое рекламное место. Вот, а неспроста же тут Gemini, а только потом остальные. Вот, но я что хотел пробросить? Ну, помимо вот этой истории, что да, предыдущие схемы проверки усвоили студенты что-то или нет. Стареют на глазах и рассыпаются, и придаются полной энтропии, что, короче, как когда-то были популярные генеративно-адверсальные сети, что были отдельные мемы, что жизни дискриминаторов важны. Вот, ну сейчас дискриминаторы. Оказались вне удел, потому что 50 на 50, угадал не угадал, что сгенерено, ну, по крайней мере, в обычных курсах. Это в целом кажется, особенно если следовать идее, что вот суден должен гадить LLM, чтобы она всё прорешала. Это повод сделать аналогичным, как в компьютерных играх, ребаланс. Ну, то есть. Уровень сложности оказался ниже, чем казалось. Ну, классно! Можно, значит, с чистой совестью дать больше, более сложных задач и соображение того, что, ну, студенты должны разобраться. И загайдить LLM, чтобы разбирались. У вас был базовый курс по математике, теперь, короче, этот базовый курс по математике включает до середины курса по функциональному анализу. Вот, гайдите LLM, чтобы она вас вместе с вами дошла до ответа. Ну.

Дмитрий Колодезев 1:10:44
Слушай, ну, во-первых, я видел это уже вживую. Про этот документ конкретно, это то, что Барбара, автор документа, она же была автор статьи с разбором, и она тут упоминается, с разбором опыта применения LLM в Джош Вашингтон университет. Там у них была какая история, то есть они... Разрешили использовать его в образовательном процессе, типа, студенты делайте что хотите, студенты делали всё нормально. Затем случился midterm письменный, на котором LLM не дали, и студенты его массово завалили. Вот и не только оказалось, что студенты ничего не помнят, но ещё. Они обвинили преподавателей и факультет в том, что они их подставили. Типа, мы учились одним способом, а нас спрашивают другим, что за ботва. Вот всё же шло нормально. И вот тут, про ребаланс и так далее, я наблюдал, как Один знакомый проходил курсы, кстати, MTS. Это был MTS «Анализ данных», «Аналитики данных» и шадовский, а нет, не шадовский, Koronatech курсы аналитиков как-то одновременно. В Koronatech их заваливали буквально задачами. Вот, и когда народ возмутился, типа, что такое, что их так много, Ваня Комаров, а вы что, их без LLM решаете, что ли? Решаете с LLM?

Валентин Малых 1:12:21
И правильно сказал, да. Нет, это правильно. Надо адаптировать новые подходы. Я думаю, что я тоже вот так вот к этому приду. И на своем курсе тоже, потому что это сильно позволяет прокачать людей, на мой взгляд.

Дмитрий Колодезев 1:12:40
Тут есть одна маленькая проблемка, что если человек хочет действительно сесть и разобраться, вот как всегда учили, сесть и разобраться, то он сразу провалится и отсеется, потому что с таким объёмом именно сесть и разобраться невозможно.

Валентин Малых 1:12:57
Это правда, но тут мне кажется, что это, знаешь, как бы проблема массового образования. Мы всегда рассчитываем на некоторую образовательную модель, да, и всегда существуют люди, которые, ну, по-разному воспринимают информацию. Условно говоря, ну, если совсем до примитива сводить, да, есть жаворонки, которым с утра нужно сходить на пару, и они все такие счастливые и веселые идут на пару и всё понимают, и они потом радуются полдня. А есть, соответственно, совы, которые только ко второй половине дня раздупляются, и им эта пара в первой половине дня не уму, не сердцу, они просто её проспят, банально. Да, то есть это... Прям совсем примитив, но есть и более сложные эффекты, да, про которые ты говоришь, да, что кому-то нужно учиться так, кому-то нужно учиться иначе, и по большому счету мы до сих пор не очень понимаем, как нам подбирать способы обучения под человека, да, то есть у нас до сих пор, причем у нас, и мне кажется, это даже и в В всяких крутых университетах примерно такая же история, что до сих пор нет такого, что тебя обучают учиться разными способами, адаптированными под тебя прежде всего. Может быть, я, конечно, просто не знаю, да, но вот когда я учился и из того, что я наблюдаю за своими студентами, у них пока такого нет.

Дмитрий Колодезев 1:14:17
Ну, мне вот в этом смысле повезло, потому что я прошел через несколько образовательных систем, последовательно. Вот, то есть я... Учился в девятом классе в спецфизклассе, где, кстати, нам физик задавал просто каждый день сорок задач. То есть домашняя работа — это было сорок упражнений. Их нужно было нарешивать. Это совершенно неподъемная для школы, оказалось, объемная, а потом привыкли и, в общем, спокойно делали, не задумываясь. Вот, потом физмошкола Новосибирская, потом. Универ, потом разного рода мутные образовательные организации, не будем говорить, где и везде подходы были разные. Вот и там, где заставляли очень много самому читать и очень много самому решать, там у меня училось лучше.

Валентин Малых 1:15:07
Ну да, у нас примерно то же самое. Я сам, соответственно, заканчивал не самую, скажем так, передовую школу моего города, а потом пришёл на Phystech, и там, вот первый курс был совсем мрак, да, на втором курсе стало полегче, ну и так далее. То есть. Когда тебя заставляют много читать и много учиться, это прямо поначалу тяжело, зато потом ты привыкаешь, и тебе становится хорошо. Может быть, здесь как раз с помощью LLM мы к чему-то такому и придём, да, что объяснить много задач. Это тоже достаточно большая работа, может быть, так надо делать, похоже на это. Вроде обсудили, тогда давайте следующая история. Она довольно грустная, в том смысле, что, на мой взгляд, здесь произошло, как сказать, ну, произошло то, чего, вообще говоря, хотелось бы избежать, в том смысле, что люди стали подменять человеческое общение. Соответственно. С помощью LLM, в каком, что я имею в виду? Ну, тут не LLM, тут и я, и тут не суть важно, но идея в чём? Что есть, соответственно, некоторая школа, там учится девочка или девушка-подросток, соответственно, 15 лет примерно, и она написала какую-то там гадость в чате, что-то там нехорошее про мексиканцев, и соответственно. Эту гадость в школьном чате зафиксировали, и её просто приехал, соответственно, ну на наши деньги ОМОН и упаковал. Там это называется по-другому, но в общем и целом оно так вот устроено. И на мой взгляд, тут большая проблема заключается в том, что решение об аресте было принято без человеческого участия. Да, то есть это должен сделать на самом деле, ну то есть. Известие о том, что вот так поступил человек, должно прийти там родителям, директору школы, да, которые должны. Поговорить, должны поговорить с подростком, объяснить ему, что так делать не надо, но подросток еще не может нести полноценную ответственность за свои действия. Собственно, он поэтому и подросток, он еще не взрослый. И как бы то, что у нас не может, не может быть принято объективное решение без человеческого участия, я, наверное, Ну, как бы, буду на этой мысли настаивать, потому что всё-таки ИИ он всегда, как бы, работает в некотором контексте, и мы тоже работаем в некотором контексте, но только контексты наши отличаются. Можем ли мы сделать им тот же контекст для человека и для машины отдельный вопрос? Но без этого, соответственно, мы не можем. Как мне кажется, принимать окончательные решения. То есть, если мы ИИ используем как советника, всё окей. Как только мы начинаем ИИ использовать для уже непосредственно неконтролимого решения решений, вот мы получаем вот такого рода аресты подростков за, условно говоря, матершину в чате, хотя можно ограничиться просто, там, не знаю, разговором с директором. Вот и всё.

Дмитрий Колодезев 1:18:15
Мне кажется, что если бы у нас школьник во ВКонтакте написал, что вот в четверг мы сейчас перестреляем всех, ну, например, скажем, таджиков, то к нему бы точно так же, бы OMON приехал и был бы прав по-своему. Вот, но я что хочу сказать, что новость 2023 года, то есть события происходили в августе 2023. Решение принимала даже не LLM, а решение принимал какой-нибудь фильтр на основе тональности, скорее всего. То есть, судя по годам, там, скорее всего, был словарь, матчились, алерты вылетали и так далее. И вся вот эта новость, она приурочена к тому, что люди подали в суд. Как это в Америке вводится, групповой иск, когда собрали всех пострадавших и говорят, ну вот, а теперь у каждого из них нет сил бороться с вами. Вот, но вместе мы наняли адвоката, и он получит там, я не помню, сколько, то ли 40%, а адвокат, то ли 30%. Это общие выплаты по этим групповым искам, поэтому для адвоката это прямо от лидорада. И сейчас они бьются за то, чтобы с детьми обращались более вменяемо. Это само по себе правильно. Вот, то есть это некоторая система гэггл, которая, как он там пишет, в округе, где учатся 100 тысяч человек, но за год 500 алертов выдала со словами, ой, хулиганы зрение решают.

Валентин Малых 1:19:47
Слушай, я вот с тобой не согласен по поводу того, что у нас бы к школьнику 15 лет приехал OMON. Я думаю, что максимум пришёл бы участковый и поинтересовался строго, кто здесь, соответственно, таким непотребством занимается. То есть, если бы школьник там начал, соответственно, Бычить, уж извините за выражение, на участкового, то тут могли быть применены какие-то методы внушения. Но у нас кажется, я честно не настолько в курсе, но кажется, что у нас до сих пор. С тех пор осталась детская комната полиции уже, да, то есть у нас есть специальный отдел по борьбе, не по борьбе, а по работе с несовершеннолетними, который как раз и вот такими задачами призван заниматься, да, то есть это именно специально обученные люди с психологическим образованием, да, которые там. Проходили специальное обучение для работы с подростками, причём с сложными подростками часто. Да, то есть, ну, кажется, что обычный подросток не будет писать про то, чтобы убить там всех мексиканцев или таджиков. Мы здесь как раз и говорим про то, чтобы вот такого рода структуру, видимо, у них вот в США просто такого рода структуры нет, ну или она в данном случае не сработала эффективно. Я думаю, что вот про это.

Дмитрий Колодезев 1:21:00
Там, знаешь, всегда есть, кроме бизнеса и технологий, есть ещё и ну, нужно быть человеком за пределами даже законов, то есть нужно за самим собой следить, чтобы делать этичные вещи, как это ни странно звучит, вот. Очень легко, делая какую-нибудь ML-систему, начать делать неэтичные вещи. А потом, вроде бы как мы не виноваты, ну просто ребёнок провёл 8 часов в тюрьме, что для 13-летнего ребёнка это гигантская травма. То есть, мы не в тюрьме, в камере предварительного содержания. Всё равно, вот, то есть как бы всегда, когда мы делаем какую-то ML-систему, которая вносит влияние на, влияет на людей, нам надо как-то думать уже о том, об этике, какой-то этический комитет или что-то. Как-то вот так должно быть. Да, я согласен.

Алексей Натёкин 1:22:08
А почему нельзя? Ну, я не вижу, где камень преткновений. Вот, ну то есть, решение по человеку должен принимать человек. Так, не так, есть.

Дмитрий Колодезев 1:22:22
А ты, Леша, машину водишь? Нет, нет, но право есть. Ну, вот штрафы выдает робот, например, да.

Алексей Натёкин 1:22:33
Слушай, ты нашёл с чем сравнить, короче.

Дмитрий Колодезев 1:22:37
А что это решение по человеку, тебя на самом деле.

Алексей Натёкин 1:22:40
Нет, слушай, из той же серии, короче, температуру померить, но это как сенсор. Давай это самое всё-таки договорю. Решение по человеку должен принимать человек. Сразу вызывать маски-шоу за сообщения ВКонтакте сразу не стоит, но чтобы оно оказалось у тех, кто должен на это посмотреть, и если набирается критическая масса таких сообщений или... Скажем так, ожидаемых отрицательных реакций на это, ну да, тогда кто-то должен принять решение, что да, мы идём общаться, мы идём знакомиться, мы идём берём человека на экскурсию и так далее.

Дмитрий Колодезев 1:23:23
Да, я как отец троих детей, я вообще-то за то, чтобы когда кто-то пишет, что вот сейчас мы будем убивать кого-то в школе, чтобы этим немедленно занимались люди, специальное обучение.

Валентин Малых 1:23:34
Тут вопрос специальной обученности, понимаешь, как бы специально обученные психологи сначала, да, а потом уже ОМОН, потому что, ну всё-таки, как бы ты правильно говоришь, что там тринадцатилетнюю девочку. Упаковывать и, соответственно, сажать в камеру предварительного заключения — это какая-то такая себе история. По поводу штрафов, кстати, на мой взгляд, это неплохой пример в том смысле, что да, робот действительно выписывает штраф, но штраф — это штука, которую, которая, как бы сказать, она Асинхронно действует, да, то есть она к тебе приходит по почте, и ты можешь её оспорить. Это не то, что к тебе приехал ОМОН и тебя, соответственно, забрал. Это всё-таки немножко другое. То есть, если бы здесь, допустим, был штраф, да, и они его оспаривали, я бы сказал, ну типа, окей, давайте как-то разбираться, сюда-сюда. Новости бы не было. Да, тут всё упирается именно в то, что кто-то, не подумав, сделал вот такую историю, которая... Теперь, соответственно, дошла до суда. Окей, здесь вроде всё обсудили. Давайте дальше про школьников. Мы буквально на прошлой неделе обсуждали про То, как хорошо было бы, чтобы у нас было какое-то движение олимпийское по поводу AI. Соответственно, вот Яндекс уже откликнулся и открыл некий кружок по искусственному интеллекту. Правда, он не массовый, к сожалению, да, то есть это именно некоторые. Как принято элитный клуб, да, что это отбирают только самых каких-то способных и их обучают. Мне даже кажется, что это где-то только в Москве, но я, может быть, не это самое, не совсем правильно новость прочитал. То есть, на мой взгляд, было бы более правильным разработать какой-то, не знаю, набор инструментов для того, что, ну, видо, сделай сам свой кружок по ИИ у себя в своей школе в каком-нибудь, не знаю, Сыктывкаре, да. И вот такого рода вещи были бы гораздо более полезны. Но, опять же, лучше так, чем никак. И в этом смысле Яндекс молодцы.

Дмитрий Колодезев 1:25:37
Ну, тут интересно, что само по себе иллюстрация к новости сгенерирована нейронкой и сгенерирована не очень реально, то есть окна с двух сторон.

Валентин Малых 1:25:51
Ну, кстати, почему нет? Это может быть такая небольшая студия. То есть, теоретически, я допускаю, что такое возможно, на самом деле. Другой вопрос, что... Ну, может быть, человек в xAI работает. Да-да-да, школьник уже пошёл зарабатывать денежку себе на образование.

Алексей Натёкин 1:26:06
Ну, молодцы, тут открытый вопрос, а был ли мальчик, а был ли Яндекс? Ну, то, что совместный проект Яндекса и ФКН, вот и вам непонятно где, в онлайне ли или на ФКН, или ФКН плюс онлайн с ФКНчиками, вот будет кружок, вот, но вектор правильный.

Валентин Малых 1:26:29
Окей, хорошо. Давайте у нас, собственно, последний блок про образование. И здесь про Олимпиаду уже по Лингвистики, да, соответственно, я не включил эту новость, но была ещё на этой неделе новость про то, что ChatGPT взял, соответственно. Золотую медаль на Олимпиаде по математике, он там не первое место занял, но где-то очень даже хорошо. А здесь, соответственно, человек применил. ChatGPT без доступа к интернету, это важно, к задачам по лингвистике, и оказалось, что она, в общем, к этому не приспособлена. Из этого, собственно, делается вывод, что нет переноса от математических рассуждений на рассуждения на других дисциплинах. На мой взгляд, вывод сам по себе довольно важный, и в том смысле, что у нас сейчас принято думать. Что если мы научили задачку, точнее, не так, научили LLM рассуждать над какой-то математической задачей, то это автоматически делает её способной рассуждать над любой другой задачей. И на мой взгляд, это предположение не совсем верно, или даже, наверное, ближе совсем неверно. И вот это, в частности, показывает, что даже то, что на математической олимпиаде сейчас Лемма может решать задачи на уровне золотого медалиста, то на другой принципиальной дисциплине, тоже олимпийской, тоже с большой историей, но может быть чуть менее формализованной, наверное, так скажем, уже перенос умения рассуждать не происходит.

Алексей Натёкин 1:28:20
Ну, во-первых, страшная тайна, вот, от математика про математику. Математика — это язык, вот, на котором можно всякое делать. Вот, никто не обещает, что на другом языке, вот, всё сразу пойдёт.

Валентин Малых 1:28:38
Ой, извини, пожалуйста, я тебя сразу прерву, потому что вот на этом, кстати, сейчас, так как я как раз именно текстами занимаюсь, то вот здесь есть очень большой, ну такой большой консенсус, и я в целом тоже его придерживаюсь, что внутри языков. Есть логика, да, то есть она логика плюс-минус единая. Там у меня есть даже отдельная лекция на эту тему. Кому интересно, поищите или приходите на курс на первой лекции, я про это рассказываю. Так вот, соответственно, внутри... Языков есть некая плюс-минус похожая логика. Да, языки разные, но зная один язык. Ты на второй язык достаточно хорошо можешь переключиться, да, там с русского на немецкий, да, или с немецкого на какой-нибудь там суахили. Ты можешь переключиться, и плюс-минус многие вещи сохранятся. То есть есть нечто похожее, несмотря на то, что языки могут быть совершенно неродственными. А вот здесь, на мой взгляд, принципиально, что математика действительно язык, только это язык. Он строго логический, это неестественный язык в этом понимании, и как бы переключение между естественным языком и неестественным языком, оно не происходит. Вот я думаю, что здесь вот это важно подчеркнуть.

Алексей Натёкин 1:29:51
Могу ещё немножко усугубить, неестественных языков бывает много. Не спроста мы видим, что окей, одни модельки лучше на математике, но если хочешь походить, ну что поделать, короче, обучай модельку на триллион или четыреста восемьдесят миллиардов, или там ещё столько-то, вот просто чтобы кодило нормально. Ну, а вообще, если отстраниться от вот таких высоких материй. Мне кажется, что вот автор этой статьи спалил, что в следующий раз в бенчмарке и оверфиттинг под бенчмарки добавят и Международную олимпиаду по лингвистике. Дальше большой вопрос, сколько ещё таких потенциальных будущих бенчмарков, где что-то недообучили осталось, чтобы можно было Продолжать рассуждать на предмет переноса, слэш-конструирования, каких-то более обобщенных представлений о том, как работает мир. Вот внутри моделек, когда они разожрутся совсем до невменяемых размеров.

Валентин Малых 1:31:00
Тут, наверное, нам нужен какой-то чистый эксперимент, в том смысле, что нам нужен человек, который хорошо разбирается в математике и никак не разбирается в лингвистике, и посадить его за вот такую же задачку, типа насколько быстро он сообразит, что вообще к чему, ну и сообразит ли. То есть, тут это как раз важный аспект. Что насколько человек вообще в принципе свои инструменты в смысле мышления может переносить с одной области на другую? Это некоторый вопрос.

Алексей Натёкин 1:31:31
Слушай, вот ты же сам рассказывал про то, что на первом курсе, вот, ну, было сложно. Вот я сам учился в английской гимназии, а пошёл к нам отмех. Вот, и это, короче, не знаю, как рыбу на землю выкинуть, и ты совершенно хигеваешь. Мне кажется, если мы возьмем лингвиста и отправим его на Международную олимпиаду по математике, ему будет, ну, неоправданно больно.

Дмитрий Колодезев 1:31:58
Последнее время все продвинутые бенчмарки. Но не все многие исследуют такой схеме. Мы берем задачи, которые уже есть, точно протекли, и чуть-чуть их переформулируем. Типа, вместо того, чтобы мы случайным образом сочиняем отрезки, мы говорим, вот у нас девочки водят хоровод, берутся за руки, вот у нас лапшинки в кастрюле слипаются. И как только мы заменяем какой-нибудь элемент, перестают узнаваться ключевые слова, и внезапно выясняется, что LLM какую-то задачу не решает. Или мы берем. Какой-нибудь бенчмарк, где нужно ответить на четыре вопроса. Добавляем туда вопрос, не один из предыдущих ответов вместо четвёртого вопроса, и внезапно качество проседает очень сильно, хотя, ну, логически ничего не изменилось. То есть с бенчмарками есть такая проблема. Что они все утекают и утекают, но. А вот тут как бы источник. История еще про то, что как мы измеряем. Нашу производительность самих людей на задачи. То есть в свое время ResNet решался разными сеточками светочными, и они быстро дошли до 95, ну там с Хинтон, а потом медленно выгрызали, там до 94, до 93, потом Карпат и сел. По пару выходных посидел и поразмечал ResNet, и выяснилось, что он размечает его тоже с 5% ошибок. А потом Cleanlab взяли и сделали аналитику, и выяснилось, что на самом деле там 5% ошибок разметки. И после этого им начинать чистили, и, в общем, получается, что тот прогресс, который получили после 95%, он был весь уверфитен. Вот, да, слушай, там на самом деле есть прекрасный сайт от Cleanlab Label Error, где они показывают, что там, собственно, за трешу, угару, разметка, а мочная, что творится. Очень прикольно.

Валентин Малых 1:34:03
Да-да-да, это известный, известный прецедент, что вы, может, знаете, ну это просто очень наглядно, потому что картинки, но в целом. Проблемы того, что в разметке всегда есть некоторый шум, она всегда присутствует, эта история. И как раз очень много, скажем так, работ посвящено тому, как мы Этот шум либо компенсируем, либо минимизируем его влияние, либо еще как-то. То есть, как нам не учить шум, как нам его исключить? Полностью исключить нельзя, как нам, собственно, уменьшить его влияние? Вот это вот то, над чем люди бьются там последние, не знаю. Последние годы так точно, просто потому что LLM стало надо есть очень много, и, соответственно, оказалось в очередной раз, что много не очень качественного контента — это хорошо, но лучше, когда всё-таки контент у нас получается. Качественные тогда получаются гораздо веселее. Ладненько, я думаю, что можно переходить к следующей новости. На закусочку новость выглядит так. Студентка из МТИ, в сочувствии с технологическим институтом, бросила учебу, заявив, что AGI уничтожит человечество раньше, чем она получит диплом. По-моему, замечательная новость для завершения. За девушку можно только порадоваться, что она такая оптимистичная, решила прожить свою лучшую жизнь, когда все остальные будут страдать неизвестно чем. Вероятно, у неё какой-то, как это принято в США, довольно большой. Кредит на обучение, и она решила потратить эти деньги как-то по-другому, видимо, более приятным образом. Это моя гипотеза, если что.

Дмитрий Колодезев 1:35:44
Я много созванивался одно время в рандом кофе. Это был мой вклад в поддержку сообщества. И там беседовал с девушкой из Беларуси, которая участвовала в протестах, и сказала, что у нас в января перестала платить налоги для своего ВП, потому что всё равно режим свернется. Какой смысл платить налоги? Я говорю, а новый режим, даже если этот свернется, он думает, что забудет про твои налоги. Она сказала, в новом режиме всё будет по-новому. Так что я на месте студентки MIT, на самом деле, всё-таки поучился, если бы была такая возможность.

Валентин Малых 1:36:18
Я согласен, учеба все-таки, наверное, даже при новом режиме будет полезной. Образованный человек даже роботом будет полезен.

Алексей Натёкин 1:36:28
Особенно это самое в MIT. Ну, здесь можно было бы поднять тост за студенточек MIT. Возможно, она смотрела немножко дальше, в том плане, что, может быть, она училась на какую-то специальность, в которой уже начались массовые сокращения из-за автоматизации. Ну, всякое бывает. Вот, но... Совсем драмы на предмет того, что, о господи, мир закончится, это самое. Можно ничего не делать, а до этого мне кажется ещё пока что далековато. Вот, если мир и закончится, то вряд ли из-за пришествия AGI. Вот это вот всего. Вот, но проблемы с обучением, выбором специализации и набором, имеется в виду, пока набирают себе скиллы. Не знаю, портфолио, рабочий опыт. Ну, в общем, сейчас идет очень активно игра в музыкальные стулья, и стулья уже начали вынимать из-под людей. Так что, кто знает, может быть, она просто очень хорошо все подрасчитала, решила свой кредит на учебу закрыть и сразу же пойти работать.

Валентин Малых 1:37:46
Вот тут написано, что она пошла работать техническим писателем в некоммерческом центре безопасности ИИ. То есть она уже прямо пошла работать по специальности в каком-то смысле. Вот, но... Мне кажется, этот Дженсен Хуан говорил, что AI не лишит вас работы, вас лишит работы человек, который и умеет пользоваться. В общем-то, на мой взгляд, Это гораздо более продуктивная концепция, чем. Чем то, что ожидать, что всё станет плохо, то есть, скорее всего, прям совсем так плохо, чтобы вот прям всё на атомы — это какая-то там исчезающе малая вероятность. Да, вполне себе может быть какой-то кризис на рынке труда даже для тех же самых технических писателей, но для тех технических писателей, которые умеют пользоваться ИИ, для того чтобы, вот мы сегодня обсуждали, сформулировать изначальный тезис, ИИ бы его развернул, а дальше проверить, что там всё нормально, я думаю, что вполне себе работа до сих пор найдётся, и с ней ничего не произойдёт.

Дмитрий Колодезев 1:38:44
Есть такая книжка про рукопашный бой, там главный герой — волшебная коса. Главный герой владел магией волшебной косы, то есть. У него была такая коса, в неё вплетена железяка, он её убивал направо и налево. Вот и потом в какой-то схватке с японским захватчиком, дело было в Китае, ему косу-то и отрубили. Вот он поплакал, поплакал, а потом взял два маленьких карабина, научился из них стрелять и пошёл дальше. Вот, ну и в общем.

Валентин Малых 1:39:19
В том анекдоте про Василия Ивановича и Петьку, что куда ты с голой пяткой против шашки? Окей, я думаю, что здесь можно на этой оптимистической ноте попрощаться. Значит, всем спасибо, что слушали. Подписывайтесь на всех платформах, где слушали и где нас смотрели. Я думаю, что с кем-то увидимся через неделю. Я буду в отпуске, поэтому коллеги вас порадуют. И, ну, наверное, пока-пока.