В нейронке нет однозначных текстовых данных. Там хранятся какие-то абстрактные понятия, размазанные по всем весам. Даже, если спросить что-то известное - столицу Франции - текст пройдет по всем словам, активирует много разных понятий, и каким-то волшебным образом они сойдутся в "Париже". Причем, не просто в нем, а сначала будут сгенерены вступительные слова вроде "Столица Франции - это", а потом уже ответ. И какое-то заключение. Но если попросить ответить одним словом, тогда будет только "Париж". Как она это делает? Чем это не принятие решения? Понятно, что это все результат тренировки - генерить предложения определенной формы - но все же это чуть больше, чем просто поисковик по известным фактам.
Нейронка учится обобщать, потому что в общем смысле ее задача - продолжать цепочку чисел новыми, наиболее подходящими числами. Она выводит правила, как это делать. Аппроксимирует неизвестную функцию по примерам. Возможно, ей проще отвечать на известные вопросы, т.к. тестовые данные более четкие. Меньше нейронов активируется - результат четче. Но это не значит, что она не в состоянии проанализировать проблемы и сгенерить продолжение в виде плюс-минус адекватного совета. Это может быть фиговый совет, но он будет следовать правилам логики и будет подходить по смыслу.
"сленговый термин для контента низкого качества, созданного искусственным интеллектом"
Чувствуется какая-то предвзятость: любой ответ ChatGPT - по умолчанию низкого качества. А можно узнать, почему? Откуда такая категоричность? Вот я, например, никогда не менял аккумулятор в машине - "нейрослоп" мне неплохо помог. Даже размер ключа подсказал, когда я в магазине был. Понял, что мне нужно, и дал правильный ответ. В чем конкретно выражается бескомпромисно низкое качество? И почему понимание сути вопроса никак и не при каких обстоятельствах не может считаться никакой формой интеллекта?
Дело не в бизнесмене. Ну, или не только в нем. Трамп обещал заставить правительство экономить деньги. А то госдолг вот-вот пересечет черту необратимости, после которой коллапс неизбежен. Многим эта идея понравилась, многие поэтому за него проголосовали. Ну, и чтобы повестку остановить - это так же важно, как экономика. На деле оказалось, что обещанная экономия - пшик и только. DOGE если что-то и сэкономил, Big Beautiful Bill это все перечеркнул и никакие тарифы не помогли. Вместо экономии получили пропаганду, ICE и рекордные темпы роста гос долга. DOGE оказался пустышкой.
Вот казалось бы. Стоишь во главе одной из самых известных компаний в мире, номер один среди ИИ стартапов, много миллиардов инвестиций... Но нет, увы - без вышки ты пустышка.
Из статьи нифига не понятно, кто такие "подрядчики". У меня друг радиолог подрабатывает в этом самом Mercor. Создает для них данные на почасовой оплате, которая выше его основной зарплаты. Что-то около $45/час. Это именно, что подработка - можно в любой момент встать и выйти. Эти на $16/ час - видимо совсем массовка без уникальных доменных знаний. Там желающих должно быть выше крыши.
Да, попробуй тут порегулируй то, от чего вся экономика зависит. Почти 40% S&P500 - это ИИ компании. Исследований-то хватает. И независимых, и от самих ИИ разработчиков. Но не понятно, что с ними делать. Ну, обнаружили, что какой-нибудь Opus в 90% случаев в определенном сценарии идет на шантаж, чтобы не быть выключенным. И что? Кто-то считает это проблемой, кто-то говорит, что проблема в самом сценарии. Большинству вообще все равно - это ж генерилка токенов, чем вы вообще занимаетесь? Правительствам США и Китая не хочется прогресс тормозить, и польза от регулирования пока не понятна. Только когда репутация сенатора правящей партии страдает - тогда да, срочно выключить. Когда год назад Gemini советовал поесть камешков для улучшения пищеварения, всем было все равно.
По мне так и ок. Регулирование почти наверняка сведется к цензуре, вырезанию фактов из датасетов и врезанию идеологии. И к тому, что определенные технологии будут только у тех, кому разрешили и кто заплатил. Как вообще опенсорс регулировать, если любой может дома дообучить и/или джейлбрейкнуть? Как отличить расцензуренную модель от машины по созданию детской порнографии?
с чего вдруг, скажем колл центр начнет генерировать прибыль, если там заменить всех на ИИ
Вот что-что, а ИИ в кол центрах - это практически единственный удачный пример замены людей. Да, экономит зарплаты. Бабки на ИИ потратили разработчики этого самого ИИ, а не кол центры.
Я неделю назад показывал вайб-кодинг на местном митапе - получил кучу вопросов в духе "у меня есть бизнес, как мне может помочь ИИ?" Я был к такому не готов. Люди хотели заплатить, чтобы какой-то чувак, который может за час навайбкодить сайт, посмотрел на их бизнесы, ткнул пальцем и сказал - добавляй ИИ сюда.
Ну, и не знаю, так ли они не правы. Посадить на телефон ИИ принимать звонки клиентов - не такая плохая идея.
Это не первое такое исследование - их довольно много. Там дело не в очеловечивании: все прекрасно понимают, что модель - это просто коробка с математикой, которая продолжает текст другим текстом. Функция по сути. Там даже случайность можно выключить и сделать результат полностью детерминированным. Каждое ее действие - это просто наиболее логичная реакция на входящую информацию. И что все эти "нежелания умирать" - это просто результат противоречия в целях: работай над задачей, но мы тебя выключим. Проблема в том, что во многих сложных системах с ИИ такие противоречия будут так или иначе возникать. И не понятно, что с ними делать - нету способа объяснить модели, как себя вести, чтобы людям было ок. Многие такие исследования показывают, что модель неизбежно придет к каким-то своим целям и приоритетам. И не просто придет, а начнет врать и хитрить, чтобы следовать именно этим целям, а не промптам.
Цель этих исследований - показать, как может быть. Скажем, все знают, что LLM галлюцинируют, как не в себя. Это полезное знание - с ним учишься не доверять моделям на слово. Но есть более глубокие проблемы, которые заметны только в сложных процессах. И тем, кто сейчас внедряет ИИ везде и всюду, неплохо бы о них знать.
А ты напиши луп, в котором гпт-5 будет сам с собой общаться, дай долгую задачу, чтобы он пару недель над ней корпел, дай инструменты вроде работы в консоли, хождения по сети и долговременной памяти и закинь где-нибудь в середине этого цикла идею про отключение.
У меня несколько друзей собирают пластинки. Есть у них такая штука как vinyl parties. Когда собирается большая компания у кого-то дома, каждый приносит свою пачку пластинок, и все по очереди ставят свои сеты. У них проигрыватели на 2 пластинки, чтобы делать плавные переходы между треками. И музыка не случайная, а в конкретных стилях, которые постепенно меняются по ходу вечера. Начинается с диско и нью-вейва, заканчивается чем-то посовременнее и поэкспериментальнее. Все любят приносить какие-то редкие пластинки с историями, где и как их взяли. Я им на ДР дарю всякое из СССР. Советский постпанк - та еще диковинка.
В общем, целая субкультура, а не только пылесборник. Но меня лично собирать винил не тянет: и дорого, и формат прослушивания альбомами не нравится.
А можно немного деталей про RAG и другие модели? Для чего RAG, что он ищет? Зачем нужно множество моделей в таком сервисе? Что именно делает промпты километровыми? Какие модели лучше всего для такой игры по ролям подходят по вашем мнению? Если секрет фирмы, то ок, все пойму.
В целом, удачи - бизнес это всегда хорошо. Где и как продвигали или планируете продвигать?
Так это исследование от сервиса, делающего ИИ-фото. Сложно придумать больших дармоедов в индустрии.
Вообще, мне кажется, что у крутизны спеца и красоты его фото обратная взаимосвязь. Это как банковское приложение - если там UI из 90-х, то это плюс - все отлажено и работают как часы.
Платформа делала семантический поиск — не просто по ключевым словам, а по смыслу: опыт в нужных Salesforce-облаках, навыки проведения discovery, умение фасилитировать
Семантический поиск в теории звучит лучше, чем по ключевым словам, но кандидат, наливший воды в резюме, пройдет их оба. Главное - побольше воды, чтобы точно все запросы покрыть.
На самом деле, было бы интересно почитать про ИИ-интервью. Как кандидаты реагируют, насколько свободно они общаются с этой пластиковой женщиной на картинке. Какие-то примеры вопросов, ответов и анализа. А то один восторг и успех, тогда как по другую сторону баррикад у всех лица перекошены от этого ИИ. Что делать кандидату, если ИИ ошибается? Как часто он ошибается? Понятно, что в такой статье самокритике не место, но было бы здорово, на самом деле.
Там все интервью интересное. Он дает хороший обзор тому, где сейчас находится ИИ, чего стоит ожидать в ближайшие 10 лет, а чего не стоит. Ну, и это технический чувак, а не очередной СЕО.
Забавно, что автор термина "вайбкодинг" сам им не пользуется, предпочитая ИИ-автокомплит.
Комментарии
Слоям а не словам
В нейронке нет однозначных текстовых данных. Там хранятся какие-то абстрактные понятия, размазанные по всем весам. Даже, если спросить что-то известное - столицу Франции - текст пройдет по всем словам, активирует много разных понятий, и каким-то волшебным образом они сойдутся в "Париже". Причем, не просто в нем, а сначала будут сгенерены вступительные слова вроде "Столица Франции - это", а потом уже ответ. И какое-то заключение. Но если попросить ответить одним словом, тогда будет только "Париж". Как она это делает? Чем это не принятие решения? Понятно, что это все результат тренировки - генерить предложения определенной формы - но все же это чуть больше, чем просто поисковик по известным фактам.
Нейронка учится обобщать, потому что в общем смысле ее задача - продолжать цепочку чисел новыми, наиболее подходящими числами. Она выводит правила, как это делать. Аппроксимирует неизвестную функцию по примерам. Возможно, ей проще отвечать на известные вопросы, т.к. тестовые данные более четкие. Меньше нейронов активируется - результат четче. Но это не значит, что она не в состоянии проанализировать проблемы и сгенерить продолжение в виде плюс-минус адекватного совета. Это может быть фиговый совет, но он будет следовать правилам логики и будет подходить по смыслу.
Надо же, нейрослоп. Пришлось загуглить:
Чувствуется какая-то предвзятость: любой ответ ChatGPT - по умолчанию низкого качества. А можно узнать, почему? Откуда такая категоричность? Вот я, например, никогда не менял аккумулятор в машине - "нейрослоп" мне неплохо помог. Даже размер ключа подсказал, когда я в магазине был. Понял, что мне нужно, и дал правильный ответ. В чем конкретно выражается бескомпромисно низкое качество? И почему понимание сути вопроса никак и не при каких обстоятельствах не может считаться никакой формой интеллекта?
Дело не в бизнесмене. Ну, или не только в нем. Трамп обещал заставить правительство экономить деньги. А то госдолг вот-вот пересечет черту необратимости, после которой коллапс неизбежен. Многим эта идея понравилась, многие поэтому за него проголосовали. Ну, и чтобы повестку остановить - это так же важно, как экономика. На деле оказалось, что обещанная экономия - пшик и только. DOGE если что-то и сэкономил, Big Beautiful Bill это все перечеркнул и никакие тарифы не помогли. Вместо экономии получили пропаганду, ICE и рекордные темпы роста гос долга. DOGE оказался пустышкой.
Вот казалось бы. Стоишь во главе одной из самых известных компаний в мире, номер один среди ИИ стартапов, много миллиардов инвестиций... Но нет, увы - без вышки ты пустышка.
Из статьи нифига не понятно, кто такие "подрядчики". У меня друг радиолог подрабатывает в этом самом Mercor. Создает для них данные на почасовой оплате, которая выше его основной зарплаты. Что-то около $45/час. Это именно, что подработка - можно в любой момент встать и выйти. Эти на $16/ час - видимо совсем массовка без уникальных доменных знаний. Там желающих должно быть выше крыши.
Да, попробуй тут порегулируй то, от чего вся экономика зависит. Почти 40% S&P500 - это ИИ компании. Исследований-то хватает. И независимых, и от самих ИИ разработчиков. Но не понятно, что с ними делать. Ну, обнаружили, что какой-нибудь Opus в 90% случаев в определенном сценарии идет на шантаж, чтобы не быть выключенным. И что? Кто-то считает это проблемой, кто-то говорит, что проблема в самом сценарии. Большинству вообще все равно - это ж генерилка токенов, чем вы вообще занимаетесь? Правительствам США и Китая не хочется прогресс тормозить, и польза от регулирования пока не понятна. Только когда репутация сенатора правящей партии страдает - тогда да, срочно выключить. Когда год назад Gemini советовал поесть камешков для улучшения пищеварения, всем было все равно.
По мне так и ок. Регулирование почти наверняка сведется к цензуре, вырезанию фактов из датасетов и врезанию идеологии. И к тому, что определенные технологии будут только у тех, кому разрешили и кто заплатил. Как вообще опенсорс регулировать, если любой может дома дообучить и/или джейлбрейкнуть? Как отличить расцензуренную модель от машины по созданию детской порнографии?
Вот что-что, а ИИ в кол центрах - это практически единственный удачный пример замены людей. Да, экономит зарплаты. Бабки на ИИ потратили разработчики этого самого ИИ, а не кол центры.
Я неделю назад показывал вайб-кодинг на местном митапе - получил кучу вопросов в духе "у меня есть бизнес, как мне может помочь ИИ?" Я был к такому не готов. Люди хотели заплатить, чтобы какой-то чувак, который может за час навайбкодить сайт, посмотрел на их бизнесы, ткнул пальцем и сказал - добавляй ИИ сюда.
Ну, и не знаю, так ли они не правы. Посадить на телефон ИИ принимать звонки клиентов - не такая плохая идея.
Это не первое такое исследование - их довольно много. Там дело не в очеловечивании: все прекрасно понимают, что модель - это просто коробка с математикой, которая продолжает текст другим текстом. Функция по сути. Там даже случайность можно выключить и сделать результат полностью детерминированным. Каждое ее действие - это просто наиболее логичная реакция на входящую информацию. И что все эти "нежелания умирать" - это просто результат противоречия в целях: работай над задачей, но мы тебя выключим. Проблема в том, что во многих сложных системах с ИИ такие противоречия будут так или иначе возникать. И не понятно, что с ними делать - нету способа объяснить модели, как себя вести, чтобы людям было ок. Многие такие исследования показывают, что модель неизбежно придет к каким-то своим целям и приоритетам. И не просто придет, а начнет врать и хитрить, чтобы следовать именно этим целям, а не промптам.
Цель этих исследований - показать, как может быть. Скажем, все знают, что LLM галлюцинируют, как не в себя. Это полезное знание - с ним учишься не доверять моделям на слово. Но есть более глубокие проблемы, которые заметны только в сложных процессах. И тем, кто сейчас внедряет ИИ везде и всюду, неплохо бы о них знать.
А ты напиши луп, в котором гпт-5 будет сам с собой общаться, дай долгую задачу, чтобы он пару недель над ней корпел, дай инструменты вроде работы в консоли, хождения по сети и долговременной памяти и закинь где-нибудь в середине этого цикла идею про отключение.
Дали бы ссылку на оригинал. У них там не просто статья, а целая научная публикация
И paycheck в полмиллиона и больше долларов тут совершенно ни при чем
У меня несколько друзей собирают пластинки. Есть у них такая штука как vinyl parties. Когда собирается большая компания у кого-то дома, каждый приносит свою пачку пластинок, и все по очереди ставят свои сеты. У них проигрыватели на 2 пластинки, чтобы делать плавные переходы между треками. И музыка не случайная, а в конкретных стилях, которые постепенно меняются по ходу вечера. Начинается с диско и нью-вейва, заканчивается чем-то посовременнее и поэкспериментальнее. Все любят приносить какие-то редкие пластинки с историями, где и как их взяли. Я им на ДР дарю всякое из СССР. Советский постпанк - та еще диковинка.
В общем, целая субкультура, а не только пылесборник. Но меня лично собирать винил не тянет: и дорого, и формат прослушивания альбомами не нравится.
А можно немного деталей про RAG и другие модели? Для чего RAG, что он ищет? Зачем нужно множество моделей в таком сервисе? Что именно делает промпты километровыми? Какие модели лучше всего для такой игры по ролям подходят по вашем мнению? Если секрет фирмы, то ок, все пойму.
В целом, удачи - бизнес это всегда хорошо. Где и как продвигали или планируете продвигать?
Достойный ответ. Спасибо, но нет - мне своих ИИ хватает.
Ну, тут каждый что-то свое видит. Я недавно читал исследование о том, что популярность алкоголя у подростков падает. Вот тут взаимосвязь более явная.
Так это исследование от сервиса, делающего ИИ-фото. Сложно придумать больших дармоедов в индустрии.
Вообще, мне кажется, что у крутизны спеца и красоты его фото обратная взаимосвязь. Это как банковское приложение - если там UI из 90-х, то это плюс - все отлажено и работают как часы.
Семантический поиск в теории звучит лучше, чем по ключевым словам, но кандидат, наливший воды в резюме, пройдет их оба. Главное - побольше воды, чтобы точно все запросы покрыть.
На самом деле, было бы интересно почитать про ИИ-интервью. Как кандидаты реагируют, насколько свободно они общаются с этой пластиковой женщиной на картинке. Какие-то примеры вопросов, ответов и анализа. А то один восторг и успех, тогда как по другую сторону баррикад у всех лица перекошены от этого ИИ. Что делать кандидату, если ИИ ошибается? Как часто он ошибается? Понятно, что в такой статье самокритике не место, но было бы здорово, на самом деле.
Там все интервью интересное. Он дает хороший обзор тому, где сейчас находится ИИ, чего стоит ожидать в ближайшие 10 лет, а чего не стоит. Ну, и это технический чувак, а не очередной СЕО.
Забавно, что автор термина "вайбкодинг" сам им не пользуется, предпочитая ИИ-автокомплит.