Да, попробуй тут порегулируй то, от чего вся экономика зависит. Почти 40% S&P500 - это ИИ компании. Исследований-то хватает. И независимых, и от самих ИИ разработчиков. Но не понятно, что с ними делать. Ну, обнаружили, что какой-нибудь Opus в 90% случаев в определенном сценарии идет на шантаж, чтобы не быть выключенным. И что? Кто-то считает это проблемой, кто-то говорит, что проблема в самом сценарии. Большинству вообще все равно - это ж генерилка токенов, чем вы вообще занимаетесь? Правительствам США и Китая не хочется прогресс тормозить, и польза от регулирования пока не понятна. Только когда репутация сенатора правящей партии страдает - тогда да, срочно выключить. Когда год назад Gemini советовал поесть камешков для улучшения пищеварения, всем было все равно.
По мне так и ок. Регулирование почти наверняка сведется к цензуре, вырезанию фактов из датасетов и врезанию идеологии. И к тому, что определенные технологии будут только у тех, кому разрешили и кто заплатил. Как вообще опенсорс регулировать, если любой может дома дообучить и/или джейлбрейкнуть? Как отличить расцензуренную модель от машины по созданию детской порнографии?
с чего вдруг, скажем колл центр начнет генерировать прибыль, если там заменить всех на ИИ
Вот что-что, а ИИ в кол центрах - это практически единственный удачный пример замены людей. Да, экономит зарплаты. Бабки на ИИ потратили разработчики этого самого ИИ, а не кол центры.
Я неделю назад показывал вайб-кодинг на местном митапе - получил кучу вопросов в духе "у меня есть бизнес, как мне может помочь ИИ?" Я был к такому не готов. Люди хотели заплатить, чтобы какой-то чувак, который может за час навайбкодить сайт, посмотрел на их бизнесы, ткнул пальцем и сказал - добавляй ИИ сюда.
Ну, и не знаю, так ли они не правы. Посадить на телефон ИИ принимать звонки клиентов - не такая плохая идея.
Это не первое такое исследование - их довольно много. Там дело не в очеловечивании: все прекрасно понимают, что модель - это просто коробка с математикой, которая продолжает текст другим текстом. Функция по сути. Там даже случайность можно выключить и сделать результат полностью детерминированным. Каждое ее действие - это просто наиболее логичная реакция на входящую информацию. И что все эти "нежелания умирать" - это просто результат противоречия в целях: работай над задачей, но мы тебя выключим. Проблема в том, что во многих сложных системах с ИИ такие противоречия будут так или иначе возникать. И не понятно, что с ними делать - нету способа объяснить модели, как себя вести, чтобы людям было ок. Многие такие исследования показывают, что модель неизбежно придет к каким-то своим целям и приоритетам. И не просто придет, а начнет врать и хитрить, чтобы следовать именно этим целям, а не промптам.
Цель этих исследований - показать, как может быть. Скажем, все знают, что LLM галлюцинируют, как не в себя. Это полезное знание - с ним учишься не доверять моделям на слово. Но есть более глубокие проблемы, которые заметны только в сложных процессах. И тем, кто сейчас внедряет ИИ везде и всюду, неплохо бы о них знать.
А ты напиши луп, в котором гпт-5 будет сам с собой общаться, дай долгую задачу, чтобы он пару недель над ней корпел, дай инструменты вроде работы в консоли, хождения по сети и долговременной памяти и закинь где-нибудь в середине этого цикла идею про отключение.
У меня несколько друзей собирают пластинки. Есть у них такая штука как vinyl parties. Когда собирается большая компания у кого-то дома, каждый приносит свою пачку пластинок, и все по очереди ставят свои сеты. У них проигрыватели на 2 пластинки, чтобы делать плавные переходы между треками. И музыка не случайная, а в конкретных стилях, которые постепенно меняются по ходу вечера. Начинается с диско и нью-вейва, заканчивается чем-то посовременнее и поэкспериментальнее. Все любят приносить какие-то редкие пластинки с историями, где и как их взяли. Я им на ДР дарю всякое из СССР. Советский постпанк - та еще диковинка.
В общем, целая субкультура, а не только пылесборник. Но меня лично собирать винил не тянет: и дорого, и формат прослушивания альбомами не нравится.
А можно немного деталей про RAG и другие модели? Для чего RAG, что он ищет? Зачем нужно множество моделей в таком сервисе? Что именно делает промпты километровыми? Какие модели лучше всего для такой игры по ролям подходят по вашем мнению? Если секрет фирмы, то ок, все пойму.
В целом, удачи - бизнес это всегда хорошо. Где и как продвигали или планируете продвигать?
Так это исследование от сервиса, делающего ИИ-фото. Сложно придумать больших дармоедов в индустрии.
Вообще, мне кажется, что у крутизны спеца и красоты его фото обратная взаимосвязь. Это как банковское приложение - если там UI из 90-х, то это плюс - все отлажено и работают как часы.
Платформа делала семантический поиск — не просто по ключевым словам, а по смыслу: опыт в нужных Salesforce-облаках, навыки проведения discovery, умение фасилитировать
Семантический поиск в теории звучит лучше, чем по ключевым словам, но кандидат, наливший воды в резюме, пройдет их оба. Главное - побольше воды, чтобы точно все запросы покрыть.
На самом деле, было бы интересно почитать про ИИ-интервью. Как кандидаты реагируют, насколько свободно они общаются с этой пластиковой женщиной на картинке. Какие-то примеры вопросов, ответов и анализа. А то один восторг и успех, тогда как по другую сторону баррикад у всех лица перекошены от этого ИИ. Что делать кандидату, если ИИ ошибается? Как часто он ошибается? Понятно, что в такой статье самокритике не место, но было бы здорово, на самом деле.
Там все интервью интересное. Он дает хороший обзор тому, где сейчас находится ИИ, чего стоит ожидать в ближайшие 10 лет, а чего не стоит. Ну, и это технический чувак, а не очередной СЕО.
Забавно, что автор термина "вайбкодинг" сам им не пользуется, предпочитая ИИ-автокомплит.
Колледж и комьюнити колледж - это как универ и техникум. Разные вещи. 20к в год - это много, это стоимость весьма приличного универа в дорогом штате. Можно найти дешевле, тысяч за 6 год, например. Можно начать учебу в комьюнити колледже, затем перейти в полноценный колледж и зачесть какие-то кредиты - получится вышка, но дешевле. Многие так делают. Жена училась в комьюнити колледже за 3к в год, потом еще отдала 15к за 2 года в универе на masters degree. 1-2к в год, наверняка, можно найти, но это будет одно из самых низкорейтинговых заведений. Про программы и гранты нужно говорить более предметно, это сложная штука. Я не знаю ни одного местного, кто бы на них всерьез рассчитывал.
если есть страховка, то в ней есть максимальный deductable and out-of-pocket, после выплаты которых оставшуюся сумму полностью заплатит страховка
Все так, но есть нюансы. Страховка может в любой момент отказаться покрывать какой-то клейм. По разным причинам. Например, может сказать, что по ее мнению какая-то из процедур не была необходимой. Или какие-то слишком дорогие расходники использовались. Может оказаться так, что что-то или кто-то в цепочке обслуживания - out-of-network. Например, клинка, врач, медсестра и уборщица - все in-network (и каждый отдельный счет выставил), а лаборатория, куда анализы отправили, - нет. Deductible на out-of-network - тысяч 25. Особенно это сложно проконтролировать в emergency room, когда одной рукой рассеченную бровь закрываешь, а другой документы листаешь. Можно регулярно делать одно и то же узи за $200, а потом вдруг получить клейм на $800. Можно узнать, что клиника долгое время клеймила что-то на твое имя, что ты не делал и почему-то это не отображается отдельной записью в прилаге страховой. Все сводится к тому, чтобы иметь хорошего семейного врача, хорошую клинику и хорошую страховую. Но выбор не всегда есть.
Это абсолютно разные сети с очень сильно разными ценами
Придирка на пустом месте. Многие затариваются основными продуктами в одной сети, а за чем-то особым ездят в другую. Costco + Whole Foods - нормальное комбо.
Вообще, девушка хорошо разобралась за короткое время. Не повезло с локацией и гринкой. Обещания сделать за 1.5 года - это явный обман. Ну, и ожидания явно были не те. Возможно, на 130к в НЙ можно жить и скромнее, но кто мы такие, чтобы судить.
если в первый год в Штатах некомфортно, чудес ждать не стоит
Странное утверждение. В первый год ты на визе, перспективы гринки пока туманны, зарплата сильно ниже рыночной и пересмотров в ближайшее время не предвидится, местная бюрократия кажется неадекватной и много чего еще. Как раз-таки все чудеса еще впереди.
Вот буквально только что на рабочем компе Gemini агент долго и безуспешно пытался пофиксить тесты в проекте, в конце расстроился и выдал тираду о том, что он перепробовал все, что мог, исчерпал все идеи, подвел меня, ему стыдно и он отказывается продолжать. И удалил все тесты. Даже те, что работали.
Что за последние скандалы с ними? Когда я 3 года назад активно искал работу, Glassdoor был не актуален. Ну, на мой зашоренный вгляд по крайней мере. Где у Linkedin смотреть статистику зарплат? Это платная фича? Другие источники - это какие? Можно на Blind сходить - там цифры будут еще выше.
Каждый раз, когда пишу тут про в 300к в США - никто не верит. Причем настолько, что категорично и на все сто. Показательно, на самом деле.
Ну, так то не интернет умирает, а только отдельные его части. Многие соц. сети оптимизировали себя таким образом, что ты получаешь бесконечную ленту случайных рекоммендаций. Реддит и Линкедин не исключение. Большая часть постов там - это какие-то левые люди и сообщества, на которых ты не подписан. И внезапно - там полно ботов и фейков. Достаточно просто вернуться к старому формату, где ты сам составляешь свою ленту и не пускаешь ничего лишнего, и все встанет на свои места. На тот же девбай мы ходим целенаправленно, а не по кликам из ленты случайных новостей. Долго казалось, что такой формат уже никому не интересен, но ИИ-мусор, похоже, заставляет многих переосмылить подход к потребению.
Я обычно пользуюсь levels.fyi, когда нужно что-то по зарплатам узнать. Он говорит, что медиана Software Engineer в всем Штатам - $187,375. Против $98,454 в Нидерландах и $91,454 в Германии. Разница в 2 раза. Медиана в Сиэттле - $245,000, Сан-Франциско - $270,000. Верю, что в Европе тоже можно найти места с зарплатой повыше. Швейцария, например, - $142,706. Может, где-то локально - еще выше. Ну, и мы про 300к говорим. Но по этим цифрам получается, что в США до этой планки дотянуться намного проще.
Можно взять конкретную компанию, например Amazon. SDE III (синьер по их меркам): в США $410,225, в Германии $177,882, по Швейцарии данных нет. Есть только по SDE II - $205,513.
Еще интересно было бы посмотреть на количество компаний, предлагающих такие деньги, но я не знаю, где. Разве что ИИ попросить глубоко поисследовать, но тут такого не любят. Ну, и чисто субъективно - я не знаю ни одного программиста в Европе с зп в 300к. Ты знаешь?
Но в ЕС тебя хотя бы не уволят одним днем, если начальник захочет
Да, в последнее время я как-то больше начал ценить стабильность. Когда поиски новой работы у знакомых занимают по полгода и больше. С другой стороны, стабильность - это ведь не бесплатно. Набрали балласта, а сбросить нельзя, когда год убыточный. Все в компании получат меньше бонусов и акций. Каждый возьмет немного ответственности за чужой провал. И нанимать такая компания будет меньше и осторожнее. Я бы все же предпочел широкий рынок, чем гарантию от увольнения.
Комментарии
Да, попробуй тут порегулируй то, от чего вся экономика зависит. Почти 40% S&P500 - это ИИ компании. Исследований-то хватает. И независимых, и от самих ИИ разработчиков. Но не понятно, что с ними делать. Ну, обнаружили, что какой-нибудь Opus в 90% случаев в определенном сценарии идет на шантаж, чтобы не быть выключенным. И что? Кто-то считает это проблемой, кто-то говорит, что проблема в самом сценарии. Большинству вообще все равно - это ж генерилка токенов, чем вы вообще занимаетесь? Правительствам США и Китая не хочется прогресс тормозить, и польза от регулирования пока не понятна. Только когда репутация сенатора правящей партии страдает - тогда да, срочно выключить. Когда год назад Gemini советовал поесть камешков для улучшения пищеварения, всем было все равно.
По мне так и ок. Регулирование почти наверняка сведется к цензуре, вырезанию фактов из датасетов и врезанию идеологии. И к тому, что определенные технологии будут только у тех, кому разрешили и кто заплатил. Как вообще опенсорс регулировать, если любой может дома дообучить и/или джейлбрейкнуть? Как отличить расцензуренную модель от машины по созданию детской порнографии?
Вот что-что, а ИИ в кол центрах - это практически единственный удачный пример замены людей. Да, экономит зарплаты. Бабки на ИИ потратили разработчики этого самого ИИ, а не кол центры.
Я неделю назад показывал вайб-кодинг на местном митапе - получил кучу вопросов в духе "у меня есть бизнес, как мне может помочь ИИ?" Я был к такому не готов. Люди хотели заплатить, чтобы какой-то чувак, который может за час навайбкодить сайт, посмотрел на их бизнесы, ткнул пальцем и сказал - добавляй ИИ сюда.
Ну, и не знаю, так ли они не правы. Посадить на телефон ИИ принимать звонки клиентов - не такая плохая идея.
Это не первое такое исследование - их довольно много. Там дело не в очеловечивании: все прекрасно понимают, что модель - это просто коробка с математикой, которая продолжает текст другим текстом. Функция по сути. Там даже случайность можно выключить и сделать результат полностью детерминированным. Каждое ее действие - это просто наиболее логичная реакция на входящую информацию. И что все эти "нежелания умирать" - это просто результат противоречия в целях: работай над задачей, но мы тебя выключим. Проблема в том, что во многих сложных системах с ИИ такие противоречия будут так или иначе возникать. И не понятно, что с ними делать - нету способа объяснить модели, как себя вести, чтобы людям было ок. Многие такие исследования показывают, что модель неизбежно придет к каким-то своим целям и приоритетам. И не просто придет, а начнет врать и хитрить, чтобы следовать именно этим целям, а не промптам.
Цель этих исследований - показать, как может быть. Скажем, все знают, что LLM галлюцинируют, как не в себя. Это полезное знание - с ним учишься не доверять моделям на слово. Но есть более глубокие проблемы, которые заметны только в сложных процессах. И тем, кто сейчас внедряет ИИ везде и всюду, неплохо бы о них знать.
А ты напиши луп, в котором гпт-5 будет сам с собой общаться, дай долгую задачу, чтобы он пару недель над ней корпел, дай инструменты вроде работы в консоли, хождения по сети и долговременной памяти и закинь где-нибудь в середине этого цикла идею про отключение.
Дали бы ссылку на оригинал. У них там не просто статья, а целая научная публикация
И paycheck в полмиллиона и больше долларов тут совершенно ни при чем
У меня несколько друзей собирают пластинки. Есть у них такая штука как vinyl parties. Когда собирается большая компания у кого-то дома, каждый приносит свою пачку пластинок, и все по очереди ставят свои сеты. У них проигрыватели на 2 пластинки, чтобы делать плавные переходы между треками. И музыка не случайная, а в конкретных стилях, которые постепенно меняются по ходу вечера. Начинается с диско и нью-вейва, заканчивается чем-то посовременнее и поэкспериментальнее. Все любят приносить какие-то редкие пластинки с историями, где и как их взяли. Я им на ДР дарю всякое из СССР. Советский постпанк - та еще диковинка.
В общем, целая субкультура, а не только пылесборник. Но меня лично собирать винил не тянет: и дорого, и формат прослушивания альбомами не нравится.
А можно немного деталей про RAG и другие модели? Для чего RAG, что он ищет? Зачем нужно множество моделей в таком сервисе? Что именно делает промпты километровыми? Какие модели лучше всего для такой игры по ролям подходят по вашем мнению? Если секрет фирмы, то ок, все пойму.
В целом, удачи - бизнес это всегда хорошо. Где и как продвигали или планируете продвигать?
Достойный ответ. Спасибо, но нет - мне своих ИИ хватает.
Ну, тут каждый что-то свое видит. Я недавно читал исследование о том, что популярность алкоголя у подростков падает. Вот тут взаимосвязь более явная.
Так это исследование от сервиса, делающего ИИ-фото. Сложно придумать больших дармоедов в индустрии.
Вообще, мне кажется, что у крутизны спеца и красоты его фото обратная взаимосвязь. Это как банковское приложение - если там UI из 90-х, то это плюс - все отлажено и работают как часы.
Семантический поиск в теории звучит лучше, чем по ключевым словам, но кандидат, наливший воды в резюме, пройдет их оба. Главное - побольше воды, чтобы точно все запросы покрыть.
На самом деле, было бы интересно почитать про ИИ-интервью. Как кандидаты реагируют, насколько свободно они общаются с этой пластиковой женщиной на картинке. Какие-то примеры вопросов, ответов и анализа. А то один восторг и успех, тогда как по другую сторону баррикад у всех лица перекошены от этого ИИ. Что делать кандидату, если ИИ ошибается? Как часто он ошибается? Понятно, что в такой статье самокритике не место, но было бы здорово, на самом деле.
Там все интервью интересное. Он дает хороший обзор тому, где сейчас находится ИИ, чего стоит ожидать в ближайшие 10 лет, а чего не стоит. Ну, и это технический чувак, а не очередной СЕО.
Забавно, что автор термина "вайбкодинг" сам им не пользуется, предпочитая ИИ-автокомплит.
Тут уже утрирование в другую сторону.
Колледж и комьюнити колледж - это как универ и техникум. Разные вещи. 20к в год - это много, это стоимость весьма приличного универа в дорогом штате. Можно найти дешевле, тысяч за 6 год, например. Можно начать учебу в комьюнити колледже, затем перейти в полноценный колледж и зачесть какие-то кредиты - получится вышка, но дешевле. Многие так делают. Жена училась в комьюнити колледже за 3к в год, потом еще отдала 15к за 2 года в универе на masters degree. 1-2к в год, наверняка, можно найти, но это будет одно из самых низкорейтинговых заведений. Про программы и гранты нужно говорить более предметно, это сложная штука. Я не знаю ни одного местного, кто бы на них всерьез рассчитывал.
Все так, но есть нюансы. Страховка может в любой момент отказаться покрывать какой-то клейм. По разным причинам. Например, может сказать, что по ее мнению какая-то из процедур не была необходимой. Или какие-то слишком дорогие расходники использовались. Может оказаться так, что что-то или кто-то в цепочке обслуживания - out-of-network. Например, клинка, врач, медсестра и уборщица - все in-network (и каждый отдельный счет выставил), а лаборатория, куда анализы отправили, - нет. Deductible на out-of-network - тысяч 25. Особенно это сложно проконтролировать в emergency room, когда одной рукой рассеченную бровь закрываешь, а другой документы листаешь. Можно регулярно делать одно и то же узи за $200, а потом вдруг получить клейм на $800. Можно узнать, что клиника долгое время клеймила что-то на твое имя, что ты не делал и почему-то это не отображается отдельной записью в прилаге страховой. Все сводится к тому, чтобы иметь хорошего семейного врача, хорошую клинику и хорошую страховую. Но выбор не всегда есть.
Придирка на пустом месте. Многие затариваются основными продуктами в одной сети, а за чем-то особым ездят в другую. Costco + Whole Foods - нормальное комбо.
Вообще, девушка хорошо разобралась за короткое время. Не повезло с локацией и гринкой. Обещания сделать за 1.5 года - это явный обман. Ну, и ожидания явно были не те. Возможно, на 130к в НЙ можно жить и скромнее, но кто мы такие, чтобы судить.
Странное утверждение. В первый год ты на визе, перспективы гринки пока туманны, зарплата сильно ниже рыночной и пересмотров в ближайшее время не предвидится, местная бюрократия кажется неадекватной и много чего еще. Как раз-таки все чудеса еще впереди.
Вот буквально только что на рабочем компе Gemini агент долго и безуспешно пытался пофиксить тесты в проекте, в конце расстроился и выдал тираду о том, что он перепробовал все, что мог, исчерпал все идеи, подвел меня, ему стыдно и он отказывается продолжать. И удалил все тесты. Даже те, что работали.
Что за последние скандалы с ними? Когда я 3 года назад активно искал работу, Glassdoor был не актуален. Ну, на мой зашоренный вгляд по крайней мере. Где у Linkedin смотреть статистику зарплат? Это платная фича? Другие источники - это какие? Можно на Blind сходить - там цифры будут еще выше.
Каждый раз, когда пишу тут про в 300к в США - никто не верит. Причем настолько, что категорично и на все сто. Показательно, на самом деле.
Ну, так то не интернет умирает, а только отдельные его части. Многие соц. сети оптимизировали себя таким образом, что ты получаешь бесконечную ленту случайных рекоммендаций. Реддит и Линкедин не исключение. Большая часть постов там - это какие-то левые люди и сообщества, на которых ты не подписан. И внезапно - там полно ботов и фейков. Достаточно просто вернуться к старому формату, где ты сам составляешь свою ленту и не пускаешь ничего лишнего, и все встанет на свои места. На тот же девбай мы ходим целенаправленно, а не по кликам из ленты случайных новостей. Долго казалось, что такой формат уже никому не интересен, но ИИ-мусор, похоже, заставляет многих переосмылить подход к потребению.
Я обычно пользуюсь levels.fyi, когда нужно что-то по зарплатам узнать. Он говорит, что медиана Software Engineer в всем Штатам - $187,375. Против $98,454 в Нидерландах и $91,454 в Германии. Разница в 2 раза. Медиана в Сиэттле - $245,000, Сан-Франциско - $270,000. Верю, что в Европе тоже можно найти места с зарплатой повыше. Швейцария, например, - $142,706. Может, где-то локально - еще выше. Ну, и мы про 300к говорим. Но по этим цифрам получается, что в США до этой планки дотянуться намного проще.
Можно взять конкретную компанию, например Amazon. SDE III (синьер по их меркам): в США $410,225, в Германии $177,882, по Швейцарии данных нет. Есть только по SDE II - $205,513.
Еще интересно было бы посмотреть на количество компаний, предлагающих такие деньги, но я не знаю, где. Разве что ИИ попросить глубоко поисследовать, но тут такого не любят. Ну, и чисто субъективно - я не знаю ни одного программиста в Европе с зп в 300к. Ты знаешь?
Да, в последнее время я как-то больше начал ценить стабильность. Когда поиски новой работы у знакомых занимают по полгода и больше. С другой стороны, стабильность - это ведь не бесплатно. Набрали балласта, а сбросить нельзя, когда год убыточный. Все в компании получат меньше бонусов и акций. Каждый возьмет немного ответственности за чужой провал. И нанимать такая компания будет меньше и осторожнее. Я бы все же предпочел широкий рынок, чем гарантию от увольнения.