Дмитрий Колодезев

Дмитрий Колодезев

Анализирую данные. Консультирую и учу.

Капитанский мостик 2-7

Седьмой выпуск второго сезона подкаста "Капитанский мостик" про искусственный интеллект, будущее и все такое. Ведущие подкаста — Валентин Малых и Дмитрий Колодезев

Площадки
Содержание
  • 00:00:00 Начало
  • 00:00:22 Пароли от GPT
  • 00:07:13 Провайбкодил 2 млн
  • 00:10:58 ИТ-директора на выход
  • 00:15:12 Google увольняет из-за ИИ
  • 00:18:35 Найм через покупку ИИ
  • 00:22:07 OpenClaw и OpenAI
  • 00:25:46 Cerebras закончился
  • 00:28:31 Безопасный Claude
  • 00:35:10 ПЛИС для ИИ
  • 00:42:23 ИИ-чип от ByteDance
  • 00:46:51 Зоны для ИИ
  • 00:51:56 ГОСТы для ИИ
  • 00:57:48 HDD для ИИ
  • 00:59:51 KodaCode и GLM-5
  • 01:03:20 Самописный ИИ-чатбот
  • 01:07:35 ChatGPT против рекрутеров
  • 01:11:56 Память на свадьбу

Валентин Малых 0:00
Как всегда, Валентин Малых и Дмитрий Колодезев. У нас очередной выпуск «Капитанского мостика» в преддверии праздника Дня Защитника Отечества. Кто-то у нас наверняка будет смотреть именно сам праздник. Так что всех причастных поздравляем. Ну, с праздником, ребят! Предлагаю начать вот с этой новости. Она не то чтобы новость, да, то есть я думаю, что для многих людей это в целом очевидно, что так делать не нужно, но на всякий случай всё-таки обсудим. Соответственно, в чём новость? В том, что проверились, какие пароли генерирует ChatGPT и Gemini. Ну, если вам такое не приходило в голову, что можно ChatGPT, типа, просить сгенерировать его пароль, то вот, знаете, многим людям всё-таки это приходит в голову, хотя, на мой взгляд, Довольно странная идея, но тем не менее. И оказалось, что те пароли, которые сгенерированы с помощью Gemini и ChatGPT. Они очень простые, да, то есть их сложность составляет примерно 20-27 бит, насколько я помню, а в то время как длина пароля как будто в нем должно быть 120 бит. То есть сам пароль сильно-сильно более простой. Объяснение этому на самом деле достаточно очевидно. Дело в том, что большие языковые модели, они в основном занимаются тем, что внешне повторяют какие-то паттерны. Да, то есть языковая модель — это штука, которая хорошо умеет повторять паттерны. И, собственно, в связи с этим мы имеем То, что она внешне делает похожий на вот этот вот сгенерированный пароль, но то, что он при этом сильно проще, ну извините, как бы так получилось.

Дмитрий Колодезев 1:56
Но тут напрашивается решение взять LLM и сгенерировать из неё 100 тысяч паролей, составить словарь и, в общем, идти ломать. Я сам не буду так делать и вам не советую, но я уверен, что кто-то прямо сейчас это делает. Поэтому если вы, да, я думаю, что если вы просите LLM сгенерировать для вас случайный пароль, то мы вы, наверное, глубоко не подограды.

Валентин Малых 2:25
Знаешь, я бы вот что хотел обсудить, что действительно у нас же глобально меняется поведение человека в нашем цифровом мире, заключающегося в чём? Что если раньше первое, что ты делал, когда тебе что-то было нужно, ты шёл в поисковик, чтобы что-то найти, то сейчас ты идёшь в... Какой-то и сервис, и спрашиваешь. В нем что ты хочешь, и часто получаешь ответ. Собственно, поэтому такая привычка и формируется. Поэтому и генерация пароля тоже, ну просто то же самое. Да, то есть это тоже какой-то запрос информационный со стороны человека, и он удовлетворяется. LLM вполне себе нормальный. Ну, кстати, конкретно вот это починить несложно, можно просто сделать тул, в смысле, некий инструмент для LLM, чтобы она... Дергала внешний генератор, и он ей отдавал этот самый пароль. Так вполне себе нормально работает, хотя всё равно лично меня очень смущает, что это всё, во-первых, остаётся в логах, во-вторых, оно ходит по сети довольно активно. В общем, мне лично кажется, что это не самая хорошая идея так делать, но тем не менее, какие-то, какую-то самую большую дыру безопасности. Можно прикрыть, она станет там чуть поменьше. Но тем не менее, конечно, я бы так делать не стал. На мой взгляд, это всё-таки, скажем так, идея, которую лучше подумать ещё раз.

Дмитрий Колодезев 3:53
Ну, смотри, про то, что люди ходят в ChatGPT, вместо того, чтобы православно ходить в поиск, раньше люди ходили в библиотеку, а те, кто ходили в поиск, на них показывали пальцем и говорили, «Фу, смотрите, они привыкли ходить в поисковую машину, даже не в Google». Вот, и вот им там все ответы дают, и они им верят. А мне кажется, это само по себе не проблема. И даже то, что пароли генерируют с LLM, это не проблема. Как ты верно заметил, это легко исправляется. А кстати, в те времена, когда люди ходили в библиотеку, были. Бумажные книги со случайными числами, если ты не знал, внезапно, потому что не у всех были под рукой генераторы, можно было взять книжку с набором случайных чисел, как таблицы Брадиса, и, в общем, получить вполне случайные числа одни и те же целое поколение могло получать. Вот. И проблема в другом, что когда это делают люди, ты можешь это увидеть. То есть люди такие, ой, смотри, какие мы глупые. Вот, но сейчас же это ещё и агенты делают. Вот, и агенты тебе не рассказывают, где они взяли пароль, как даже не рассказывают, может быть, что им понадобился пароль.

Валентин Малых 5:09
Ну, на самом деле, мы ещё вот про вот этот доспект обсудим. Я тут предлагаю не улыбляться. А то, что я хотел заметить, это то, что, наверное, половина нашей аудитории вообще не знает, что такое таблицы Bradis. Если что, это таблицы со значениями тригонометрических функций для под разные. Градусы, да, то есть раньше были такие времена, когда это надо было считать руками, и вот были специальные таблицы. Ну, просто на всякий случай, потому что я думаю, что люди просто реально не в курсе.

Дмитрий Колодезев 5:42
Ну да, по этому поводу, кстати, есть мем, а аудиокнига таблицы Брадиса, ну, в общем, он ещё менее понятный. Вот, просто были времена, когда у людей не было не только ChatGPT, но и калькулятора под рукой. И вот как раз в этот момент можно было пойти в библиотеку, взять таблицу тригонометрических функций.

Валентин Малых 6:01
Мы ещё, кстати, это уже обсуждали, но на всякий случай, что слово «компьютер» по-английски означает очень простую вещь. «Компьютер» — это прямо вычислить компьютер, вычислять компьютер, вычислитель. И вообще говоря, компьютер — это профессия. Да, то есть были такие люди, которые прямо сидели с такими вот. Таблицами с всякими там замечательно логарифмическими линейками и с этими логарифмическими линейками они прекрасно делали расчеты. Там была какая-то норма ошибок на каждый расчет, но тем не менее вполне себе можно было обеспечить бесперебойный расчет нужных показателей. А потом компьютеры стали всё-таки машинами, а люди, которые считают, стали... Программировать эти компьютеры. Я это к чему говорю? Я к тому, что сейчас у нас мы переживаем похожий переход. Да, то есть сейчас вместо того, чтобы самому писать какой-то текст, ты объясняешь машине, как написать этот текст. Да, то есть теперь ты. Встал, как бы, в более высокую управляющую позицию, и можно ожидать, что количество текстов только... Взрастёт, причём на порядок. Это довольно широко разошедшаяся история на этой неделе. Она в чём? Что некий, скажем так, программист, да, некий. Некий инвестор, наверное, можно так выразиться, сделал код, который должен был управлять определённым капиталом. И, ну там, делать покупки, делать продажи. И, в общем, оказалось, что он допустил определённую ошибку. Так как программировал это с помощью vibe coding, о чем есть соответствующая запись в истории коммитов. И из-за этой ошибки они слили вместе примерно 2 миллиона долларов. Да, то есть он, vibe coding, и сам криптоалгоритм на троих вот 2 миллиона долларов потеряли. Я не знаю, как они, насколько кому было обидно, но подозреваю, что владельцу активов было обиднее всего.

Дмитрий Колодезев 8:11
А там ещё интересный момент был, что ошибку нашли очень быстро, но поскольку это контракты на Solidity, то... Там нужно было ждать, по-моему, пять дней после того, как ошибка уже найдена, для того чтобы этот контракт отозвать. То есть нельзя просто так взять и отозвать контракт. Вот поэтому самое прикольное это было не то, что он допустил ошибку, а то, что он знал, что есть ошибка, смотрел, как его деньги утекают и страдал. Это был его персональный ад. Он, наверное, теперь к vibe coding относится по-другому. Пять дней такого перевоспитания.

Валентин Малых 8:46
Да, конечно, можно словить просто. Это ты знаешь такое понятие мандала, да? Я думаю, надо объяснить нашим слушателям, на всякий пожарный, что есть такая практика в буддизме, насколько я понимаю. Может быть, в индуизме тоже есть, но я, честно говоря, не вглублялся. Идея в том, что... Манахи, в качестве, ну, на наши деньги это называется послушание, они, соответственно, берут и из цветного песка выкладывают довольно сильно большую картину, ну, скажем, там пять на пять метров. Я условно-то они разные бывают. Картина непростая, она сложная. Собственно, картина называется мандала. Можете посмотреть в интернете различные мандалы, которые существуют. Это довольно сложные рисунки с разными надписями на них, которые... Имеет определенное значение, но сейчас важно не это в том, что они довольно сложные. На это уходит, соответственно, такой рисунок. На каждый уходит, ну, на 5-5 метров. Ну, я бы предположил, что хотя бы неделя, да, чтобы сделать. И как только работа закончена... Эти же самые монахи должны взять метелки и всё смести. Ну, то есть, это вот некое послушание, да, воспитание в себе. Вот это вот дзена и это решение, это как раз мы увидели в исполнении, правда, не очень добровольно, вот этого человека, который пять дней смотрел, как утекают его деньги. Как-то так.

Дмитрий Колодезев 10:10
Ну, интересно, что про эту проблему, про то, что смарт-контракты падут. Жертвы вейп-кодинг говорили давно, а на 100-летний грабли только сейчас. То есть, удивительно, что так долго они шли. Скорее всего, кстати, мы не знаем, потому что не все об этом рассказывают. Потому что, скажем, инвестор, который так себя ведёт, деньги, наверное, не то чтобы быстро несут. Поэтому много таких ошибок, я думаю, заметается под ковер.

Валентин Малых 10:40
Или уж он решил сгорел сарай Гарри и хата, в смысле, протерял два миллиона долларов. Можно и карьерой пожертвовать, но не знаю. В общем, я этому человеку, наверное, могу сочувствовать, но пожелать в предьбу более внимательным, что ли, так.

Дмитрий Колодезев 10:56
Из одного битого двух не битых дают.

Валентин Малых 11:01
опять же Опять же, вот про ошибки мы начали говорить, давай продолжим. У нас появились вот эти самые агенты, причём активно, активно появились. Мы ещё сегодня про это поговорим. И я лично подтверждаю, что агенты довольно много творят всякой фигни, в том смысле, что Агента нет никаких тормозов, и он просто делает что-то, что тебе бы даже в голову не пришло, потому что у тебя есть какие-то общие установки. И они, может быть, делают это совершенно искренне, в том смысле, насколько это вообще применимо к искусственным нейронным сетям, в смысле искренности. И они могут совершать ошибки, и эти ошибки вполне себе существуют. И вот тут вот граждане прогнозируют, что у нас 20% компаний уволят своих. CIO, я так понимаю, что это Chief Intelligence Officer, что-то типа того, который... Chief Information Officer, которые соответственно отвечают за всякую айтишечку, ну и в частности за внедрение ИИ агентов в процесс компании, соответственно, вот эти вот. Директора по IT, если их так перекладывать, опять же, на наши деньги, то они довольно сильно пострадают. Мы увидим вот этот вот директоропад в течение, ну, я думаю, ближайшего года точно, потому что... Взорвались агенты довольно быстро, и они будут довольно быстро много всего делать, а последствия мы этого будем пожинать не так быстро. Да, то есть сделать что-то гораздо быстрее, чем найти, соответственно, в нем уязвимости, а потом еще их закрыть. Да, то есть можно потерять довольно много денег. И, в общем, я согласен с прогнозом, что у нас довольно много начальства на этом поляшке.

Дмитрий Колодезев 13:01
Слушай, ну во всём есть плюсы и минусы, а то, что начальство поляжет, да, но смотри. Большие корпорации удивительно изобретательны в защите своих рабочих мест менеджеров. Вот поэтому можно предположить, что сейчас очень многие старшие менеджеры Являются лидерами IT-трансформации, да, именно потому что это хайп, клево под это дают бюджеты выступать на конференциях и так далее. Вот. Но дело-то пахнет жареным, что кто-то будет за это всё дело вылетать, и даже кто-то будет сидеть, и тут. Потребуются вице-председатели, соответственно, возникнут люди, чья профессия будет сидеть и ждать, пока их не посадят, как, допустим, в некоторых государственных организациях IT-директора. Я не буду называть, но, в общем, они долго там не живут, типа, год. Год посидел в кресле, там типа, блядь, посидел в тюрьме, так примерно так. А вот и это на самом-то деле открывает возможность для феноменального карьерного роста. Если вас берут в качестве визит-председателя, что вы через год сядете, а вы вдруг внезапно начнёте наводить порядок, и у вас получится, вас ждёт совершенно сокрушительная карьера. Я серьёзно совершенно, вообще вот без малейшей капли.

Валентин Малых 14:29
Я только хотел вспомнить старый анекдот. Была такая популярная в 2000-е годы присказка, что фильмы ищет главного бухгалтера, график работы год через три. Вот.

Дмитрий Колодезев 14:44
Да, многие главные бухгалтеры расправлялись с этим вызовом, и мне всё хорошо сейчас. То есть, да, я просто знаю некоторых. Вот и ну вот такая вот история. Я, кстати, один раз в жизни был в такой ситуации. Это я даже не сомневаюсь, что это весьма бодрительно.

Валентин Малых 15:07
Есть такие ситуации в жизни, когда ты ощущаешь бодрость всем телом буквально. Google предложил добровольное увольнение сотрудникам недовольным. Тут в чём всё дело, ну, тут надо что сказать. Google действительно пытается играть роль корпорации Допра, да, то есть. В американских условиях есть такой мем общественный, да, что есть корпорация зла, и это плюс-минус любая корпорация. Вот Google пытался с этим стереотипом бороться, ну точнее, поддерживать его через отрицание, что вот есть одна корпорация добра, и это, собственно, Google. И корпорация добра. В чем выражено, что они не просто увольняют людей одним днем, как в США принято, а там по закону действительно можно уволить человека одним днем, просто по факту сказать, что уволен, и всё-всё-всё-всё доброе. Они, соответственно, предлагают людям добровольно уволиться, если они недовольны и они там предлагают какие-то компенсации, то есть. Google добивается того, чтобы свой штат определённым образом ужать за счёт того, чтобы люди сами ушли. Да, то есть, это действительно очень по-доброму в текущих условиях. И, собственно, посмотрим, чему это приведёт. Я лично даже не знаю, на что ставить. Я не думаю, что много народу таким образом из Google уволится. Может быть, какое-то количество активистов, но не более того.

Дмитрий Колодезев 16:42
Слушай, ну я твоего оптимизма вообще не разделяю. Вот я не работаю в большой корпорации, в отличие от тебя, да, но может быть, мне со стороны виднее. А большая организация всегда может через performance review уволить кого угодно, даже в нашей этой самой ситуации. И если у человека есть выбор уйти добровольно с компенсацией или быть выкинутым за несоответствие. Ожиданием угадай, что они выберут, поэтому компания может просто. Выделить некоторые проценты и сказать им, ребята, ну вот, в общем, или уходите хорошо, или уходите плохо. Да, и скорее всего, происходит именно это. То есть большинство IT-компаний, американских, да и наших на самом деле крупных, они перенаняты. То есть до тех пор, пока бюджеты туда лились рекой, никто их толком не считал. Вот опять же, по причинам, о которых мы говорили раньше, то есть чем ты больше сожжёшь денег, тем лучше ты на самом деле менеджер в большой корпорации. Вот, а многие компании перенаняты за эффективностью работы, не все следили. Про многие крупные, например, российские и американские компании ходили в эти правдивые рассказы, что человек пришёл, и через неделю ему выдали ноутбук с доступами. А ещё через месяц, наконец, дали рабочий пароль. И ещё через месяц, наконец, поставили первую задачу. То есть, два месяца он получал зарплату просто ни за что. И вот эту перенанятость они сейчас и...

Валентин Малых 18:21
Ну, видимо, я как-то так выразился. Я, в принципе, ровно это и имел в виду. Всё, что ты сказал, видимо, я как-то слишком оптимистично то звучал. Ну, я же в конце кто-то за доброго полицейского в нашей поре. К вопросу о, соответственно, увольнениях, тут же сразу про Ная. Да, довольно интересная тоже история. Есть такой Томаштунгус, не первый раз он у нас мелькает, вот этот гражданин, и он в данном случае сделал колонку про то, что нарастает тенденция, так называемая, эквихар, в переводе с Английского — это найм через покупку, наверное, да, как-то так можно сказать. И, соответственно, вот этот найм через покупку — это когда есть какой-то стартап, который сделал что-то полезное. У него там уже, наверное, появились какие-то первые клиенты, к ним приходит большая корпорация и говорит, всё, вы с нами больше. Соответственно, сами не работаете, вы работаете теперь на нас. Вот вам определённое количество денег, и вы становитесь делом нашей компании. Ну, что-то подобное в российском рынке было, хотя надо сказать, что довольно мало. Из известного мне это, пожалуй, покупка сервиса Edadil Яндекса. Наверняка было что-то ещё, но в США это прямо очень частое явление. Вот. Я честно скажу, не знаю, как отопить эти данные, как то, что заканчивается свободной рынке, в смысле свободные деньги у инвесторов, или как что-то ещё. Но в целом идея про то, что у нас просто происходит вот такая вот штука. Мы видим, что сейчас людей больше нанимают через покупку их старта.

Дмитрий Колодезев 20:13
На самом деле, для сейчас, для многих, это действительно быстрый, ускоренный карьерный лифт. То есть ты делаешь стартапы, через, скажем, два-три года ты попадаешь в какое-нибудь хорошее место, если он засветился удачно. Вот. А для компании... Это обычно не покупка рынка. То есть, как правило, клиенты не очень интересуют в этих маленьких компаниях, их интересует команда. А я, например, работал как-то. С одними людьми, которые покупали небольшие российские компании, потому что с наймом у них не ладилось вообще, то есть они нанимают. IT-специалистов, они у них не работают. Вот, то есть разбегаются или разваливаются, или ничего не делают. Единственная схема, которая у них работала, если они покупают маленькую IT-контору с уже имеющейся структурой управления и командами. И тогда они договариваются, грубо говоря, с их начальником, а их начальник становится начальником отдела или разделения, и вообще всё хорошо. Потому что я видел, я тебе потом. Сейчас нам в этом самом скажу, что это за компания, ты её тоже знаешь. А вот, скорее всего, дело в том, что при слиянии компании, вообще говоря, примерно равного размера, всегда происходит управленческий бардак. Но в большой компании управленческий бардак уже есть. Если нужно устроить новое подразделение, скорее всего, оно сразу с бардаком и возникнет, если ты хочешь. Принести, так сказать, новое свежее семечко, ты покупаешь маленькую команду с прозрачными внутри процессами и так далее и тому подобное, которая не успела заржаветь, и встраиваешь её в себя. И в общем, просто они какое-то время как независимый отдел живут, а потом организация их переваривает. Ну, нормальный процесс.

Валентин Малых 22:10
Как раз следующая новость у нас посвящена. Чему-то подобному, то что мы только что обсудили, для меня лично это новость номер один за последнюю неделю. Соответственно, сам Альтман выступил с тем, что они наняли Петера Штейнбергера или Стейнбергера, я не знаю как правильно. Чтобы он в OpenAI, соответственно, работал. Интересно, тут то, что кто не знает, вот этот товарищ Петер, он, соответственно, автор. Фреймворк, который изначально назывался Claude Book. Потом он стал называться Mockbook, а потом он стал называться Open Claw. И соответственно, Open Claw — это, несмотря ни на что, сохранил название в названии намёк на Клода. Да, то есть изначально это. Некий фрейвор для того, чтобы автоматизировать написание скиллов для Клода. skill — это такая маленькая инструкция, структурированная. И вот эта вот штука, она действительно важная и действительно. Интересно, что OpenAI в этом случае перехватил. Ну, тут успела пройти история, которую мы не стали освещать, про то, что Клод успел, Антропия, успел подать на Стэнбика в суд с тем, чтобы он прекратил использовать их имя. Он вроде как и не использовал, но всё равно переименовался, потом переименовался ещё разочек, и вот после этого, соответственно, OpenAI его забрал на работу. Я так понимаю, что... Всё происходило настолько быстро, что он даже не успел сделать какую-нибудь фирму, которую продать. Да, то есть его просто купили одного. Хорошо это или плохо, опять же, отдельный вопрос. Но они, OpenAI, говорят о том, что будут поддерживать OpenClaw и дальше, хотя у себя будут разворачивать на своей инфраструктуре. Я лично в этом ничего плохого не вижу. Было понятно, что штука очень хорошая и полезная. Китайцы уже для себя такое сделали, но почему бы не сделать, соответственно, и какой-то западной компании.

Дмитрий Колодезев 24:23
Ну, на самом деле, он прикольный сам по себе очень товарищ, потому что он... Уже имеет успешную историю. То есть это не то, что какой-то разработчик сидел и, кушая доширак, что-то разработал. У него уже был 100-миллионный экзит в 23-м году, и он первую свою софтину на продаже разработал в 11-м году, пока. Ждал американскую рабочую визу и не мог работать. Вот, и он сделал софт, который работает с PDF-ками. И, в общем, вот этот проект был его сорок четвёртым ей проектом. Да, то есть это не то, что он взял и навайпкодил что-то. То есть, мужик сорок четыре раза кидал глину на стену, и на сорок четвёртый раз она прилет.

Валентин Малых 25:21
С этим контекстом я могу только порадоваться за человека, потому что он действительно сделал много полезного, видимо. Ну, тут надо всё-таки сделать скидку на то, что это было слишком быстро, да, что он даже сделать SuperExit не успел, потому что он даже Enter-то не сделал ещё толком, да, то есть оно просто взорвалось. Но, тем не менее, это очень круто, человеку может только порадоваться. Продолжая про OpenAI, это наша с тобой любимая, значит, OpenAI представил, соответственно, GPT-53 Codex. Spark, и вот эта штука — это первая модель, которая обучена на чипах Cerebras. Чипы Cerebras — это вот тётенька держит сейчас в руках штука размером примерно с, ну, где-то с А4, да, только она квадратная, ну, где-то с непредвотно 20 на 20. Довольно много размер, если что, вот этого чипа, он обусловлен, собственно, максимальным размером, который можно выпилить из круглой пластины диаметром 300 мм. Или 450 мм, надо посмотреть, какие сейчас. По-моему, самые большие уже 450 мм есть. В общем, самый большой чип, который можно сейчас сделать, это Cerebras, просто больше чип сделать. Технически нельзя, ну скажем так, за какие-то разумные деньги. Вот и то, что они уже используются прямо в продакшене, это прикольно. Ну, потому что мы говорили о том, что Cunea закупает, где-то с полгода назад мы про это разговаривали. Вот закупили, обучили, первая моделька уже работает. Здорово, что можно сказать.

Дмитрий Колодезев 27:01
Тут, знаешь, во всём есть свои дополнительные грани. Нет, Cerebras очень нравится, и мы на них использовали очень много inference. Прямо мы на Cerebras inference. Но с 16 февраля они стали гораздо меньше продавать inference наружу, потому что у них не хватает в большинстве. Это раз. Второе, GPT-53 Codex Spark, чем она отличается от GPT-53? Там просто чего-нибудь. Она меньше. А почему она меньше? Потому что Cerebras наконец-то уткнул, нашёл модель, которая хочет на нём hostиться, но не вмещается в его память, несмотря на то, что он такой размером с полстола. То есть вот эту модель уменьшали специально, чтобы она влезла в чипы Cerebras. И насколько я знаю, Cerebras. Всё понял и пытается сейчас сделать что-нибудь больше, потому что обоснованно предполагает, что он раньше просто у них была главная идея в PR-компании. Смотрите, у нас есть чип, на который всё влезет, в отличие от вас, которая должна собирать это в кластеры и использовать интерконнект. И тут внезапно, оп! Не влезло, да, модель пришлось чуть-чуть исечь. Ну вот, такие дела.

Валентин Малых 28:21
Я, пожалуй, здесь пропущу некоторое количество спогрестных шуток и поедем дальше. Ой, видимо, видимо, ты понял, о чем нет, а я тоже о них подумал. Новость, которую в последнюю минуту добавили. Мы раз уж проговорили про всякие. Про Клода и про всякие безопасные штуки. Соответственно, Claude добавляет skill, внимание, про безопасность. Для меня это уже звучит как анекдот, если честно. Но они теперь добавили Клоду, я имею в виду Anthropic, добавили Клоду. skill, то есть некую инструкцию о том, как делать всё безопасно. Насколько эта инструкция дырявая и насколько получается не дыряво то, что выходит наружу, я, честно говоря, даже не берусь предсказать. Может быть, у тебя какой-то более позитивный взгляд на эту проблему?

Дмитрий Колодезев 29:20
Да, у меня более позитивный взгляд на эту проблему. Тут стоит напомнить, что всякий раз, когда мы видим аллергические всякие прогнозы, типа навозом завозит Лондон до второго этажа, или всё программное обеспечение будет насквозь дыряво. Мы исходим из того, что мир не будет меняться ни в каких аспектах, кроме одного, на который мы смотрим. На самом деле, с миром так не бывает. Мир обычно меняется всеми аспектами. То есть, куда бы мы ни пошли, мы передвигаем ногами, руки и голову тащим за собой. То есть, ну, в смысле, что мы приходим туда целиком всегда. И с миром та же самая история. То есть, да, агенты делают огромное количество дырок, но на самом деле в поисках дырок агенты лучше, наверное, даже, чем в их изготовлении. Вот и как бы ожидать, что агенты научились делать дырки и не научатся искать дырки.

Валентин Малых 30:16
Я с одной стороны с тобой согласен, а с другой категорически не согласен. Согласен я в том смысле. Что мир действительно меняется весь сразу, и, судя по всему, у нас поменяется как минимум восприятие этого всего. А не согласно в том, что агенты в поиске лучше, чем в делании дырок. Вот делать дырок гораздо проще, чем их искать, на мой взгляд. Это моё субъективное восприятие. Да, может быть, я тут неправ, но суть в том, что... Да, по-моему, на прошлом деле мы. Была новость, но мы её не обсудили, про то, что тот же самый Клод нашёл довольно много дырок в коде. И это здорово, но проблема в том, что это надо делать постоянное для всего. Боюсь, что вот такой вот AI просто не успевает за вот этим вот созданием всего нового. Да, то есть мы специально обсудили агентов в начале, и эти агенты успевают за день сгенерировать столько, сколько ты ещё две недели разбирать будет, условно говоря, даже с плодом. Вот у меня такая мысль.

Дмитрий Колодезев 31:21
А это так, опять же, но это если предположить, что процессы не будут меняться. Вот, то есть давай я совсем другое предположу. То есть оно не сбудется, но оно гораздо ближе к будущему, я думаю, чем вот эта вот кошмарная картинка, которую ты нарисовал. То есть, ты же знаешь про формальную верификацию кода, безусловно, всё с ней хорошо. У неё есть одна маленькая проблема, а даже маленькую очень программу ты замучаешься формально верифицировать, то есть пишешь ты её за неделю, а верифицировать ты её будешь год потом. Вот. И вот история в том, что если мы не как частные Разработчики, которые там сделают себе очередную CRM-ку или чего-нибудь ещё. А как люди, которые работают с промышленным кодом. Просто поставим это как обязательный и необходимый элемент CACD, вот, то всё будет немножко веселее. У нас сейчас же, в доагентскую эпоху, что делали люди, чтобы дерьмо не попадало на вентиляторы лишний раз? Да, то есть мы использовали Git. Мы использовали какой-нибудь SonarQube, который автоматически ищет странности. Да, мы использовали тесты и писали их. То есть, ну, целые клавиаты. Мы использовали сканеры безопасности. И по большому счёту... Ошибки, которые генерируют юные разработчики, свежепришедшие в отрасли, и агенты, ну, в общем, они примерно одинаковые. Те мы научились ловить, почему мы не научимся ловить эти? То есть, ну, просто нужна дисциплина и процессы сейчас.

Валентин Малых 33:05
Согласен, я тут хочу указать на то, что ты забыл очень важный аспект. Дело в том, что... Помимо всего этого, мы ещё использовали большое количество людей, которым хочется отбить земной поклон. Это, соответственно, QA, Quality Assurance. Целые команды, причём по размеру эти команды, подчас не меньше, чем разработка, иногда больше, просто для того, чтобы действительно выловить хоть какие-то баги. Я надеюсь, что Quality Assurance как раз будет активно использовать вот такого рода штуки. Чтобы, соответственно, тестировать всякие дыры, и вместе с человеком мы просто сможем как бы побороть вот эту волну, да. То есть у нас разработчики вместе с вайб-кодом начинают в десять раз больше кода генерировать, а QA вместе с, не знаю. секьюрити-агентами начинают их в 10 раз интенсивнее проверять. В идеале, что QA даже более интенсивно проверяют, потому что качество всё-таки кажется сейчас снижается. Ну, может, я не прав.

Дмитрий Колодезев 34:13
Человека талантливого и яркого, который прямо сейчас делает стартап по мутационному тестированию приложений. Вот с помощью я и как раз. То есть, если кто не знает, представьте себе, что у нас есть программа, и программа у нас написана, всем нравится, и проходит тест и работает. И мы возьмём где-нибудь плюс изменим на минус, и мы ожидаем, что тесты у нас упадут. И если тесты не упали... Значит, они у нас неправильные. Вот. И вот эту историю, что-нибудь в программе, найти, что мы можем в программе поменять на прямо противоположное по семантике. Программа при этом будет по-прежнему проходить тесты. Вот его, скажем, стартап эту историю и решает. Вот. И опять же. Мне кажется, что эта история вполне решаема с автоматическим тестированием. Просто надо проявить некоторое количество дисциплины, изобретательности.

Валентин Малых 35:13
Эта новость лично меня в каком-то смысле даже поразила. Да, то есть это не то чтобы это было невозможно, это само собой возможно, но просто это очень классно звучит. Значит, есть такая контора. Talus называется Talus. Не знаю, как правильно её произносить, но в общем, суть не в этом. Суть в том, что эти люди делают железо, которое фактически зашивают модель. Да, то есть они говорят, что вот у нас есть моделька, и мы её реализуем в железе напрямую, без вот этих всех бесконечных драйверов и вот этого всего. Ну, то есть, тут надо немножко назад отскочить, что как вообще устроено текущий ИИ? Да, всё достаточно сложно. У нас есть, значит, нижний уровень. Это, собственно, само железо, да, вот эта вот сырая мощность. Дальше поверх этого есть. Прошивка самой, допустим, видеокарты, GPU. Среди этого есть, соответственно, драйвера для этого, а поверх этого есть библиотека низкоуровневых примитивов. В случае NVIDIA-то CUDA? Поверх этого есть, соответственно, уже некая среда исполнения. Например, это может быть PyTorch. Понятно, что мало кто в продакшене его использует, хотя я думаю, что многие используют. Тем не менее, и ещё выше этого, это уже, собственно, сама моделька. И получается, что у нас от модели до самой железки есть там пять слоёв, которые каждый откусывает по кусочку производительности на обслуживание самого себя. Это просто так жизнь устроим. И вот эти люди говорят, что давайте мы вместо этого сделаем так, что у нас прямо чип. Да, то есть вот у нас есть только чип, у него есть, соответственно, просто вход, просто выход. Вот нам достаточно одного драйвера, ну, фактически, там только драйвер и прошивка остаются. И этого уже достаточно для того, чтобы у вас что-то работало. Вы просто подаете туда сигнал, а на выходе у вас другой сигнал, который уже сделал то, что вы хотите. За счет этого у них получаются какие-то просто бесконечные цифры прироста. Да, то есть они себя сравнивают с тем же Cerebras. Так вот, на iPhone Cerebras выглядит как калькулятор. То есть это прямо очень интересно получается, что... Они могут реально очень быстро сделать. Единственная проблема, которая здесь, она проблема только относительная, и мне кажется, что мы всё равно придём к чему-то похожему, потому что... Это просто настолько вкусно, что я боюсь, мы не сможем устоять. Ну как боюсь. Просто не сможем всё. А проблема заключается в том, что сейчас новые модели выходят очень быстро. Ну, если ты видел, сейчас по интернету ходят эти мемы по поводу того, что за первые там двадцать дней февраля выросло уже там десяток новых моделей, и непонятно, когда ещё выйдет ещё столько же, да, может, в следующие пять дней. Вот и получается, что вот это очень серьёзно осложняет, потому что надо успеть произвести чип. Да, у них там чип, он на ASIC, да, то есть он не чисто, как бы не то, что его прямо наштамповали, да, это в ASIC они прожигают. ASIC — это всё-таки штука достаточно легко переконфигурируемая, но это всё равно это некоторая работа. И вот вопрос, к чему мы придём.

Дмитрий Колодезев 38:53
Слушай, у меня были знакомые, которые на Тайване сидели и или они сидели в Гуанчжоу, где-то там, в общем. И они запекали CV-модельки в микросхемке. То есть у них было совершенно крошечное энергопотребление, совершенно феноменальная производительность. Это было ещё до ковидных временах, и там было прикольно. То есть реально они показывали, привозили их, приезжали в Новосибирск на этот завтрак. Вот, то есть микросхемка с ноготок, которой я процессила ResNet со страшной скоростью. Сейчас цифры не помню. Вот и то есть сама по себе идея, она не то что витала в воздухе, а ну это вот такая нормальная инженерный подход. У меня другая мысль родилась, когда я всё это дело смотрел и подумал. Ведь, наверное, можно это сделать не в ASIC, где у нас в ASIC полгода цикл разработки, а в FPGA. В FPGA, на самом-то деле, там всё побыстрее, то есть ты в готовую FPGA заливаешь, он не будет такой быстрый. Для меня это не в пять раз, да, но это всё равно получится в два раза быстрее Cerebras, и ты сможешь перепрошивать её раз в месяц, если у тебя будет софт, который будет выполнять синтез. Да, и вот тут мы подходим к тому, что сейчас у нас есть агенты и так далее и тому подобное, и они, скорее всего, смогут выполнять синтез.

Валентин Малых 40:25
Я тут, наверное, небольшой секрет открою, что по рынку уже ходят люди и спрашивают, кто бы такой соц сделал. То есть они уже ходят и уже спрашивают. Пока ещё я не знаю, как бы, кто им что сказал этим людям, но то, что такой запрос уже существует даже в нашей стране, это говорит о том, что в США и в Китае про это уже начали год назад, минимум думать. Посмотрим, посмотрим, к чему приведётся.

Дмитрий Колодезев 40:51
Ну, интересно, что FPGA можно было брать в аренду на Амазоне просто в AWS. Вот недавно они, я что-то полез смотреть, их там не было в аренду, то есть то ли их разобрали, то ли что-то.

Валентин Малых 41:06
В свое время, производители FPGA, Xilinx по-моему, они называются, да, Intel купил. Но Intel с тех пор успел все полимеры потерять, поэтому посмотрим, насколько у них, соответственно, в этот раз, насколько они их потеряют, потому что сейчас вот у них есть шанс что-то сделать.

Дмитрий Колодезев 41:27
А, ну на самом деле нет, на AWS F2 есть инстансы, второе поколение, просто первое поколение, и убрали.

Валентин Малых 41:33
Ну, в общем, да, кажется, что идея дозрела, да, то есть у нас вроде как сама идея вот этой сей истории понятно делать всё это на FPGA, как кажется, что, в общем, пора бы.

Дмитрий Колодезев 41:48
Если кто не знал, в FPGA, это как раз эти FPGA, там два терабита, ну на самом деле, терабита, наверное, два терабита системной памяти. Вот, то есть LLM туда, в общем.

Валентин Малых 42:06
Значит, некоторое количество LLM туда влезет. Ну и мы опять же приходим к тому, что с чем столкнулся с вопросом, что большие LLM туда не влазят. Значит, нам надо какие-нибудь большие FPGA, да, ждём, когда следующие большие FPGA появятся. К слову, опять же, про производство чипов. Вот ещё один человек. Пардон, еще одна компания делает свой ИИ-чип. Их сейчас много, в Китае особенно много. И Соответственно, получается, что вот этот самый ByteDance — это, если я не ошибаюсь, владельцы TikTok, бывшие, да, в общем, большой китайский. А эти гиганты очередной, они собираются делать свой ИИ-чик. И они, что вот лично мне очень интересно, ведут производство, хотят делать производство у Samsung. Тут надо сделать пояснение для людей, которые не совсем в теме, почему это интересно, потому что у нас В принципе, производство чипов в мире сосредоточено, если так на скидку, то в четырёх местах в мире. Там есть, конечно, ещё по мелочи, но основные. Значит, это США, и причём там довольно мало. 90% всего, наверное, производится на Тайване, ещё где-то процентов восемь производится. В Южной Корее и остаток вместе с США делят Китай. Ну, Китай, может быть, не рассказывает, сколько у него. Может быть, их там не один процент, а два или полтора, но суть не в этом. Суть в том, что... Получается, что в Китае. Не нашлось или не захотелось найти поставщиков для вот такого производства. Ну, в Китае, собственно. Основной производитель называется SMIC, и этот SMIC, судя по всему, полностью занят другими уже игроками, поэтому они пошли к Samsung, я имею в виду ByteDance. Но интересное другое, что Samsung в принципе стал об этом разговаривать, да, то есть в условиях, скажем так, мировой напряженности, то что Samsung стал разговаривать с ByteDance на тему производства, при условии, что его мощности точно могут выкупить. Американские корпорации для меня выглядит несколько интересно.

Дмитрий Колодезев 44:36
Ну, тут за геополитику я не скажу, я в ней небольшой специалист, а мне интересно другое, что то, что такое количество новых вычислительных систем растёт на рынке, говорит о том, что у NVIDIA совершенно запредельная норма прибыли, что на те деньги, что ей платят, можно построить свою заводик по производству этих самых чипов. То есть это было и так понятно по их росту.

Валентин Малых 45:05
На мой взгляд, ты путаешь две вещи. Одно заводик. Вот заводик, ни у кого нет таких денег, таких заводиков ровно четыре.

Дмитрий Колодезев 45:14
Заводик я пошутил, я имею в виду свой свечной заводик, что можно построить. Начать производить самому чипы, явно экономика будет хуже, чем у NVIDIA, который их производит много, но всё равно обойдётся дешевле, чем покупать у NVIDIA и быстрее, чем покупать у NVIDIA. Вообще, в большинстве отраслей это не так. Если вы решите варить сталь у себя дома, вы получите хуже сталь, чем Северсталь делает, сто пуду.

Валентин Малых 45:45
Всё-таки, прости, пожалуйста, я настаю на том, что именно производить как раз можно ровно в четырёх местах физически, а вот сделать своё. Как сейчас принято говорить, ателье, да, то есть своё конструкторское бюро, которое будет разрабатывать эти самые чипы, да, это делают многие. Я думаю, что не зря так делают, потому что ты прав по поводу нужной прибыли у NVIDIA. Но вот всё это упирается как раз в то, что мощностей для производства, их строго ограниченное количество, и построить новые, ну вот сумел только Китай за последние, там, 10 лет. И то они ввалили столько денег, что там это даже с капитализацией NVIDIA, наверное, сравнимо.

Дмитрий Колодезев 46:22
Да, я ещё чуть позанудничаю, что у нас есть некоторая вертикаль, по которой делятся деньги, да. И получается, что основные деньги достаются не производителям микросхем, потому что если бы они им доставались, то не было бы смысла заказывать у них в обход NVIDIA, а держателям патентов и, ну, интеллектуальной собственности.

Валентин Малых 46:44
Ну да, то есть все деньги, в основном, достаются NVIDIA, несмотря на то, что производится всё где-то, какой-нибудь TSMC. Ну, не какой-нибудь, а конкретный в план себе. Следующая новость достаточно интересная, и в свете последних развития событий выглядит ещё более интересно, потому что уже давно, ну, сначала ходили слухи, потом появилось непосредственно поручение президента о том, что надо создавать Росатому, соответственно, комплексное предложение вида АЭС плюс ЦОД. И вот здесь вот теперь появилась вот такая вот новость, что Минэнерго прорабатывает создание специальных аналитических зон для ИИ. То есть выделяется какой-нибудь, ну какая-нибудь электростанция. АЭС в этом смысле самый хороший пример, потому что она в этом смысле абсолютно стабильная, да, то есть её можно там. Вот сколько надо, столько она и соответственно выдаёт энергии в течение там круглого года, круглосуточно и вообще. А соответственно, есть у нас и другие. Довольно стабильные источники энергии, тепловая генерация или АЭ или ГЭС тоже достаточно стабильные. Они вполне себе тоже могут быть использованы. Предположим, что у нас есть какой-то кусок мощности, который можно отдать вот одному конкретному якорному потребителю. И, соответственно, сейчас обсуждают, как вот это организовать для того, чтобы можно было Сделать специальную зону, какие-то преференции, для того чтобы там строить. И вокруг источника энергии. Кстати, тут можно вспомнить, что такое делали в Казахстане. Мы это обсуждали несколько выпусков назад. Они собираются, соответственно, строить там угольный тест. По верху этого еще сода для ИИ, а второе — Узбекистан тоже целую свою область, примерно с четверть стороны размером, объявил Итландайкам и говорил, что там можно и делать без ограничений. Единственная проблема, что там в этой области, которая называется Каракалпакстан, вот. Как в Каракалпакстане, в этом самом, в нем ничего толком нет, кроме Саксаул и Сусликов. Но тем не менее, объявили и посмотрим, что у них получится. То есть сейчас все идут плюс-минус в эту историю, что нам нужен источник энергии, и рядом с ним ЦОД, и посмотрим, кто к чему придет.

Дмитрий Колодезев 49:18
Ну, тут есть два сценария, как везде, хороший и плохой. Хороший сценарий, он состоит вот в чем, что мы берем и начинаем строить, мы как страна начинаем строить в не очень занятых местах. Электрические станции, вокруг них возникают дата-центры, потом, допустим, модуль на искусственный интеллект проходит или находятся на ое более энергетически выгодные технологии, а и на эту энергию можно, допустим, поставить там небольшой заводик и чат, например. Людям жить, да, то есть, ну, грубо говоря, если там заведётся электростанция, жизнь вокруг тоже заведётся, да. Это хороший сценарий. Плохой сценарий — это, например, Детройт. Если кто не знал, Детройт очень здесь здорово вырос, когда был пик американской автомобильной промышленности, а потом, когда американская автомобильная промышленность чуть-чуть поутихла, Детройт утих совсем, вплоть до того, что он местами напоминает заброшку из компьютерных.

Валентин Малых 50:17
Слушай, ну в этом плане можно достаточно интересный пример привести про Лондон. Да, Лондон был в своё время промышленной столицей мира, где-то на рубеже 19-20 веков. Ну, мы с тобой хорошо помним, понятно. Вот, как сейчас Китай, только в те времена, наверное, ещё куча. Потом произошла деиндустриализация, довольно активная, довольно сильно деиндустриализировалась. Всё, значит, произошла деиндустриализация, и особенно в шестидесятые годы, там Маргарет Тэтчер, все дела, вся промышленность в Британии как-то сама рассосалась. И я это к чему? К тому, что Лондон... С начала XX века по населению не вырос. Если посмотреть, у них пик населения. Может быть, либо недавно был достигнут, либо, соответственно, был в XIX веке. И из-за этого получается, что... Город плюс-минус остался таким же, как в XIX веке по размерам, и поэтому у них, собственно, такой большой проблемы даже перед населением нет. Опять же, ещё раз углубиться можно ещё на пару тысячелетий назад, когда... Римская империя пала, да, в Риме довольно долго не было никакой проблемы с жильём, потому что ну просто, ну, расчистил себе там, соответственно, какую-нибудь полянку и живи там спокойно, собирай кирпичи, строй что хочешь, потому что вокруг этого добра навалом никому не надо, вот. И посмотрим. Я надеюсь, что такого, как мы сейчас видим, в Детройте такого не произойдёт. Я надеюсь, много где, да, но, к сожалению, отдельные зоны вполне себе это возможно. Следующая новость связана с тем, что у нас ввели в действие два ГОСТа про искусственный интеллект. Один называется «Оценка воздействия системы искусственного интеллекта», а второй называется «Таксономия прозрачности системы искусственного интеллекта».

Дмитрий Колодезев 52:16
Слушай, ну, новые стандарты — это всегда хорошо. И если кто не знает, стандарты бывают очень разные. То есть большинство думает про стандарты, типа что он задаёт как должно быть. Большинство стандартов задаёт не как должно быть, оно описывает процессы и документацию, которая должна быть. Вот, а сколько конкретно мяса должно быть в колбасе, оно скорее в тех условиях. Так вот, стандарты эти интересны тем, что один из них — стандарт. Собственно, прозрачность — это калька. ИСОшного стандарта, ну на самом деле с американского, если уж называть вещи своими именами. То есть, есть американский стандарт, из него есть ИСОшный МЭК стандарт, и у нас его приняли, как это вообще говоря обычно и делается. В этом нет ничего плохого. То есть, кто-нибудь придумывает хороший стандарт, его с доработками принимают. И он про... Прозрачность системы искусственного интеллекта, то есть он задает словарь, на котором мы говорим о том, что такое прозрачная система искусственного интеллекта, что в ней должно быть, что мы раскрываем и так далее, и тому подобное. То есть это очень важная история, когда мы начинаем строить системы, которые действительно влияют на других людей. То есть, а что мы, собственно говоря, такое тут сделали? И про ГОСТ задает язык, на котором государства и крупные компании, ну потому что мелких это всё не касается, могут говорить со своими поставщиками и подрядчиками и регуляторами. Вот поэтому, несмотря на то, что сам по себе ГОСТ, как все ГОСТы, он Неоптимален, но гораздо лучше иметь несовершенный язык, чем никакого языка. Это очень круто. Вот, но ещё интереснее второй ГОСТ, который оценка воздействия системы искусственного интеллекта. Он интересен в первую очередь тем, что это оригинальный ГОСТ, это не портированный международный ГОСТ. Он описывает поведение организации, процессы организации, которые она должна иметь, чтобы Оценивать то, как её модели влияют на общество, людей, бизнес-процессы свои, подрядчиков и вообще. Вот, например, там такой есть прекрасный пункт. Организации следует идентифицировать и документировать обоснованно прогнозируемое нецелевое использование. И вот обоснованно прогнозируемое нецелевое использование — это первый раз, где я вообще встречаю это упоминание. Потому что, например, если вы ходите по улице, кидаетесь кирпичами, и попадете кому-то по голове. И вас притащат в милицию, и вы такие скажете, да я вообще-то не думал, что... Брошенный на улице кирпич может кому-то повредить. Ну вот должен думать, да. То есть закон считает, что бросаясь кирпичами, вы обязаны об этом подумать. А если не подумали, мы сами виноваты. Так вот, разрабатывая модели искусственного интеллекта, мы теперь тоже явным образом нам вменена обязанность. Идентифицировать и документировать обоснованно прогнозируемое нецелевое использование. То есть, кто и как, скорее всего, исходя из текущего уровня развития, будет её использовать нецелевым образом. Ну, то есть, вот такие вот вещи. И что надо делать, какие документы? Я просмотрел стандарт.

Валентин Малых 55:58
Мне ничего не триггернул. Слушай, ну тут мне кажется, что надо разделять две истории. Вот продолжаю твою метафору про бросание кирпичами. Я полностью согласен, что вообще неплохо бы думать, когда ты бросаешься кирпичами, но а что делать, если ты не бросаешься кирпичами, а ты производишь эти самые кирпичи? Должен ли ты был подумать о том, что кто-то может ими бросаться? Да, то есть, является ли это, соответственно, обоснованным целевым использованием? То есть, где проходит вот эта вот грань обоснованности? Для лично для меня совершенно не очевидно.

Дмитрий Колодезев 56:33
И вот тут мы как-то уже с тобой говорили, у нас стратификация и определение контрактов. То есть я делаю кирпич, например, да, и я описываю его. Я описываю на моем уровне, чем он хорош и плох, а дальше человек, который, допустим, начинает эти кирпичи продавать на митинге, да, вот он уже не прав, а не я.

Валентин Малых 57:01
Окей, да, ладно, понял идею. Но хотя у меня всё равно сомнения остаются, честно говоря, потому что вот это действительно надо очень явно прописать, что если ты делаешь кирпичи для того, чтобы дом строить, это не твоя проблема, что кто-то их может использовать для того, чтобы в людей кидаться. Да, то есть это уже проблема вот этого человека, который кидается.

Дмитрий Колодезев 57:24
Да, но в общественной социальной жизни нет универсальных решений в принципе, и то, что эти стандарты принимаются, это прямо отличный ход для того, чтобы в принципе начать это решать.

Валентин Малых 57:38
Ну, она и раньше, да и дальше будет разумиться по понятиям, я не сомневаюсь, но в целом, в целом, наверное, ты прав, что хорошо, что есть какая-то упорядочность, из неё было бы совсем грустно. Следующая новость у нас про то, что Western Digital исчерпала мощности по производству HDD на весь 26-й год. Обращаю внимание, что ещё февраль закончился, то есть за первые два месяца уже. Все мощности Western Digital раскуплены до конца года полностью, и тут важно, что не просто раскуплены. Произведённые HDD как раз никого по большому счёту не интересует. А вот то, что мощности по их производству уже полностью забиты другими людьми, и на производство, собственно, для людей, ну то есть в ритейл, осталось там пять процентов. Это уже как-то печально, наверное. Да, то есть я не к тому, что здесь надо как-то ругать Western Digital или что-то такое, спасибо Боже. Я про то, что у нас мы видим ещё одно. Точку, в которую упирается ИИ. Да, теперь то, что SSD не хватает, все уже давно привыкли, все смирились, ладно. Теперь не хватает HDD. Скоро дойдём для того, чтобы не хватать ленточных хранилищ, поменим моё слово. Соответственно, ленточные хранилища — это тоже, в общем, неплохо. Когда дойдём до того, что нас будет не хватать перфокарт, вот тогда, пожалуйста, напишите мне SMS, я, видимо, буду где-то в тайке.

Дмитрий Колодезев 59:09
У меня в сейфе до последнего времени лежал десяток перфокатов, так что я не знаю, что они там. Вот если что, обращайтесь. А вообще, опять же, HDD они прекрасны в рейдах, то есть SSD они хороши на домашних системах, хороши на серверных системах, как основные. А в рейдах на самом деле HDD до сих пор вполне конкурентоспособны и по размеру, и по скорости, главным образом за счёт предсказуемой скорости чтения и записи. Вот поэтому рейды на HDD отлично работают. Вот, ну и да, ты прав, что мы уперлись в ещё одно ограничение. Почему вот так?

Валентин Малых 59:54
Есть такие ребята, которые делают Кода Код. Это наши с вами соотечественники, ну, по крайней мере, работают на российском рынке. Я уж не знаю, кто из них там откуда, но они работают на российском рынке и делают свою среду разработки под названием Кода Код. Из интересного они, собственно, не скрывают то, что это бывшая команда. GigaCode, GigaIDE, которая откололась по каким-то причинам. Я там свечку не держал, не знаю, может быть, в комментариях расскажут. И соответственно, откололись они какое-то время назад, ну скажем, где-то с год, ну больше. И они сделали вот этот свой кода-код, в котором они добавляют все. Современные модели, да, в частности, конкретно эта новость, это про GLM-5, которая недавно вышла. Кстати, я сам ей пользуюсь, очень хорошая модель, и она сейчас даже бесплатно доступна, без всякого VPN. Если что, можете попользоваться. Вот, и можно посмотреть, что у них там довольно много всего, да, то есть они и Gemini предоставляют. И Kimi, и Qwen, и DeepSeek. У них нет только OpenAI из таких крупных. Но все остальные не предоставляют. Я уж не знаю, какие они предоставляют платно-бесплатно, но просто сам факт, что у нас на рынке существует компания, которая производит IDE, которая при этом предоставляет бесплатно определенные токены. И это, по-моему, очень интересно, откуда у людей такие деньги.

Дмитрий Колодезев 1:01:31
Ну, откуда деньги? Понятно, то есть это, наверное, стартап, но он, наверное, ждет деньги инвесторов. Ага, а вообще, насколько я знаю, у людей денег полно, которые они готовы куда-нибудь проинвестировать. Им просто нужно хотя бы предположение, что деньги оттуда потом вернутся, а не просто их сожгут. Так что и с инвесторами, мне кажется, проще. Вообще прикольно, Coda Code. Дело в том, что у нас на рынке после Ухода оттуда, например, JetBrains, образовалась такая пустота вопиющая, которую частично пытаются заполнить Гигакод, частично Яндекс.

Валентин Малых 1:02:11
Я всем, конечно, желаю успеха, потому что я считаю, что чем больше у нас разнообразного разнообразной движухи около яичной, тем лучше. То есть я только рад по этому поводу.

Дмитрий Колодезев 1:02:25
Там, знаешь, есть проблема такая в импортозамещении сейчас, что первые, кто импортозамещают, они импортозамещают с наценкой в 10 раз минимум. Вот и то же самое у нас произошло со средами разработки. Вот хотелось бы, чтобы их было побольше, чтобы...

Валентин Малых 1:02:45
Не-не, это понятно, конечно. Ну а то, что они, как бы, импортозамещаются с настанкой в десять раз, это очевидно, потому что тебе же надо построить производство и попытаться хоть как-то его отбить. Да, даже если это производство с афта, это гораздо дешевле, чем строить прямо из металла и бетона, но тем не менее. Это всё ещё очень дорого, и я вполне понимаю, почему люди ломят такие деньги вполне себе разумно в этом смысле. Но конкуренция, соответственно, посмотрим, к чему придёт. Да-да, я всем желаю удачи в соревнованиях, это прекрасно на самом деле. Ещё одна новость из наших палестин — это проект под названием «Ура-Борос» от Антона Ржигаева. По крайней мере, я узнал от Антона. Может быть, это кто-то ещё его делает, я просто... История про что? Что Антон, да, вот написано, что Антон — создатель. Антон, соответственно, создал чат-бота, который сам себя дописывает, переписывает, и там он писал в Янкедыне пост, что чат-бот сам додумался для того, чтобы снизить. Свою стоимость в несколько раз, чтобы ещё больше там себя переписывать. Он сколько-то раз уже себя переписал, вот можно посмотреть, сколько. Соответственно, денег было сожжено. Вот он уже две тысячи долларов на этом сжёг. Хорошо это или плохо, опять же, я не знаю. Стало это популярно, стал постпопулярен после того, как, соответственно, Антон написал, что его чат-бот решил сам себя в залпансорсить, потому что, а почему бы и нет, а то есть он решил, что это его. Сделать более устойчивым или что-то такое. В общем, мне лично кажется, что там насчёт «решил» — это какое-то некоторое привлечение, потому что нейросети решать ничего не могут, это просто не какая-то игра вероятностей. Но тем не менее, сам факт, что вот такой вот забавный эксперимент.

Дмитрий Колодезев 1:04:48
Ну, две забавных вещи. Во-первых, у него есть бюджет в 2.300, если ниже прокрутить, и он вообще до него уже близко дошёл. А интересно, что будет дальше. Я думаю, что просто бюджет повысит, как обычно. Вот, а во-вторых, я тут прошлым летом, которое у нас прошло. Читал огромную книжку Сапольского. Детерминт про то, что мы как люди гораздо менее сильно обладаем свободой выбора, что всё, что мы увидели, услышали, наша генетика, поведение других людей практически полностью определяет наше собственное поведение. На самом деле, свободы выбора у нас очень-очень мало. И я на эту тему много думал, поэтому ты когда говоришь, что нейронка не принимает решения, ну а мы

Валентин Малых 1:05:40
То, значит, о чем ты говоришь, прости, пожалуйста, что перебил. Это штука, которую сейчас активно исследуют под названием «Предустановки мышления». И о том, как с этим работать, это действительно большая, большая тема. Я тоже про нее думаю, но это уже как-то совсем отходит далеко от ИИ, и я думаю, что мы можем это оффлайн обсудить.

Дмитрий Колодезев 1:06:04
Ну, не совсем. Смотри, то есть из того, что я вынес, читая Сапольского и другие вещи Метцингера и так далее про это дело, что самое неправдивое, а самое полезное описание того, как устроена жизнь, что мы не принимаем решения логически. У нас есть, грубо говоря, какой-то эмбеддинг, какая-то нейронка в нас прошита, и мы Нам прилетает ситуация, мы тут же принимаем решение, а потом объясняем по себе, сочиняем красивую сказку, почему мы приняли это решение. И как логически мыслящие существа, мы можем существовать ровно потому, что любое более-менее серьезное решение состоит из многих шагов, и дальше возникает интересный цикл. То есть мы принимаем решение на автомате, как кукла, на которую наступили, она пискнула. Затем мы рассказываем себе историю, которая описывает, что почему мы это решение приняли. Она не имеет отношения к реальности. И эта история перепрограммирует наш эмбеддинг, на котором мы принимаем следующее решение. И это то же самое, что делают агенты.

Валентин Малых 1:07:09
В смысле, это правда. То есть, в этом я вполне себе согласен. Ну, в смысле, я тоже читал эти книжки. Врать не буду, Сапольского я не читал, а вот Метцингер я как раз читал в своё время очень сильно. Он произвел впечатление, да, что. Очень много детерминистичности в том, что мы делаем. То есть, некой предопределенности как раз. Вот понимать, что предопределяет твои личные рецензии. Решение, на мой взгляд, это очень полезно в жизни, прям полезно. Тут один. Гражданин в LinkedIn запустил вот такой вот скрин с тем, что ему рекрутер предложил закинуть его резюме и, соответственно, получить от ChatGPT скоринг, насколько резюме похоже на вакансию. И он там даже чуть выше, если прокрутить, я тут могу найти. Да, вот здесь, собственно, результат. Говоришь, что его профиль прямо супер подходил под вакансию, но... Но тем не менее, вот этот вот рекрутер ему отказал, потому что считает, что это вообще. Он не подошел, да, и у них разошлись восприятия у вот этого гражданина и у рекрутера, потому что рекрутер говорит, что сейчас все так делают, через ChatGPT прогоняют и получают какой-то результат. Хорошо это или плохо, я лично считаю, что это просто неизбежно, потому что у рекрутера среднего нет компетенции для того, чтобы оценить, насколько резюме похоже на вакансию. А зачем тратить время на то, на что нет компетенции, хотя часть ChatGPT Может быть, с не меньшим, а может быть, даже с чуть большим качеством это сделают. Да, то есть мы просто получим отсея по ChatGPT, и у нас оптимизация резюме превратится в оптимизацию с помощью ChatGPT. И это, в общем-то, вполне себе понятная история. Я думаю, что мы к этому вполне себе стремительно идём.

Дмитрий Колодезев 1:09:03
Ну, ханженство — это когда мы начинаем обвинять, ругать людей за то, что делают все. Вот, то есть, тут написано, я все понимаю занят, но... Предлагать кандидату самому заниматься этим идиотизмом со скриптами и тегами — это просто за границу добра и зла, как по мне. В большинстве руководств сейчас по устройству на работу именно это написано. Киньте ваше резюме, киньте. Вакансию и добейтесь того, чтобы она ему соответствовала с помощью ChatGPT. То есть это я не к тому, что я защищаю кого-то из, принимаю чью-то из того. Ну просто да, мир так устроен, что собственно его оппонент и говорит, что я там могу твое резюме прочитать, но всё равно дальше, на следующем этапе, оно попадёт туда. Ну вот, поскольку. В резюме читают LLM, то пусть в резюме и пишут в ракете.

Валентин Малых 1:09:59
Я считаю, что мы уже в этой точке пространства времени и дальше будем двигаться только в эту сторону. То есть не верю, что будет откат.

Дмитрий Колодезев 1:10:08
На самом деле, опять же, если вспомнить то, что мир-то меняется весь целиком, на многие специальности резюме никого не интересует, да? То есть, интересует то, что человек делал, кто его знал и так далее, и тому подобное. Правильно? Резюме — это просто такая обязательная букетик на стол HR. Вот. Есть другой же подход к найму сотрудников. Если у вас есть бюджет, есть задачи, есть силы и специалисты, то вы можете брать совершенную зелень и учить её у себя. И вы тогда будете про них всё совершенно знать. И когда вам нужно будет назначить кого-нибудь, скажем, Голланд тимлидом, то вы просто будете знать, кто это умеет, кто может. И мне кажется, что сейчас...

Валентин Малых 1:10:56
Я вот тут, знаешь, не соглашусь. То, что они, может быть, и хотели бы так двигаться, но в нашем динамическом мире, к сожалению, у меня ощущение, что вот это огромный провал у нас нет. Нестоциализированного обучения для людей, да, то есть все ищут готовых, и никто вообще в принципе, ну, может быть, ладно, там большие западные, большие восточные корпорации, я имею в виду, китайские, готовы на такое, но в России, по-моему, такого просто нет, у меня такого ощущения.

Дмитрий Колодезев 1:11:27
Слушай, контора, в которой ты работаешь, у них прекрасная совершенно школа аналитиков, а вообще великолепная, одна из лучших, наверное, в мире. Из тех, что я знаю, золотая корона и так далее. То есть, ну...

Валентин Малых 1:11:43
Ну, прекрасно. Знаешь, я рад, что ты такую контору похвалил и за корону. Очень рад, правда. Большие молодцы. Ну, видимо, до меня просто не долетает. Я не могу сказать всякого этого. В Турции невесте на свадьбе подарили четырехканальный комплект по Arctic DDR5. Ну, царский подарок. Все, я думаю, все согласятся, то есть без дураков. Вот тут совсем уважение, что называется, потому что... Что там, какой-то дурацкий автомобиль, тут же подарили память. Это же подорожает ещё в два раза в течение полугода, поэтому, по-моему, тут вложение в будущее просто очевидно. Поэтому вот как-то так уже сейчас дарят. Ну, там на самом деле не только память, там ещё 5090 подарили, которая тоже стоит, как чугунный мост. И ещё какие-то другие железные компы, то есть много всего достаточно дорогого, и что ещё дальше подорожает. Поэтому, на мой взгляд, очень хороший подарок. То есть, да простят меня девушки, но до 8 марта ещё можно, поэтому пусть я угадываются в комментариях. Цветы не очень хороший подарок, они очень быстро портятся. А память только дорожает. Вот память подарить — это же прекрасно!

Дмитрий Колодезев 1:12:56
Слушай, но у меня средний лот, вот.

Валентин Малых 1:13:00
Если ты сейчас купишь, тому времени оно ещё подорожает. Я тебе не... Не является инвестиционной рекомендацией, если что. Вот, ну, я думаю, что на этой позитивной ноте будем заканчивать. Всем спасибо ещё раз с наступающим праздником! И всё ещё можно, кстати, присоединиться к моему курсу, если кто-то ещё не успел, но хотел. Вот, наверное, у меня всё. Спасибо. Пока-пока. Всем удачи!