Прикиньте, в Европе семья может жить на зарплату жены, пока муж ищет новую работу. Ужас. Не то, что в хрустальном сосуде: или оба работают, или в микрокредиты залезать.
Ты внутри себя спрашиваешь простим ли мы тебе весь ПЦ, который ты устроил, если закопаешь деда и его семью? Обсуждаемо. Вечером стулья - утром деньги. Но сначала стулья.
Походу у пейзан совпало: осенний призыв, окончание учебки и пятничка :) В этом году невооруженным глазом видно резкое снижение качества отбора. Совсем васьков набрали.
Так просто логи анализировать проще. Я б туда ещё вставил спецтокен "<каюсь после того как заметили>" и смотрел КАК ИМЕННО этот вот пользователь негодует и почему. Естественно, что проблему пользователя никто решать не будет (ну или там спрогнозируют кого налево, кого направо). Так что да, Сэм (ну или кто там), ты прав, учи этих вайбкодеров, кто тут главный. Офигеть - "у меня стёрли диск - напишу-ка пост", вместо того, чтобы в суд идти. И потом уже посты писать. Учи, Сэм, этих бородатых детей.
До получки две недели. А пятница есть пятница, поэтому тщ там что-то "на вексель" взял в одном из кафе, возле казармы, куда никогда не ходит ни пожарка, ни санстанция. Это почти как чепок, но с "векселем" и водкой. Такой, малый успешный стабильный бизнес. Главное - давать на "вексель" и не распространяться.
Отличная темка в стиле "как кинуть тупых инвесторов на 60 ярдов". Обещали метавселенную, а создали нечто, что даже до mmo-RPG начала века слабо дотягивает как по графону, так и по полезности. Эквивалент 80% годового ВВП хрустального сосуда потратили на "простите не получилось".
Согласен. На какие-то мелкие задачи вполне хватает даже 4b или 8b моделек и можно без GPU. Мне кажется, что манагеры из-за дефицита технических знаний захайпились на этих дорогих здоровенных моделях, хотя большинство задач можно решить просто тюнингом малых. Забивают гвозди микроскопом.
Для дома в контексте разработки «на дядю» или для пет-проекта - смысла нет. Хотя, если человек занимается научной деятельностью и имеет коварный план … :)) А для мелких нужд и экспериментов , согласен, видюха за $1к и малые модели - выше крыши. Сейчас с одной такой идеей развлекаюсь just for fun - пытаюсь IoT домашний с Meshtastic совместить с маленькими моделями из семейства granite4 на локальном дешёвом железе. В Кракове у нас Meshtastic довольно развитое покрытие имеет, поэтому довольно занимательно получается. Без инета за сотню км можно управлять устройствами, может быть перспективно для сх в горной местности.
Зависит от специфики проекта или продукта. Если стартап занимается хемиинформатикой, например, или ещё чем-то узкоспециализированным с высокой добавленной стоимостью - однозначно смысл есть. Или джуна на год нанять или два девайса купить (и это те же расходы). Если прогорел - всё расходимся, железо - остаётся. Если какой-нибудь гэмблинг или необанки, где очень любят всё на своем железе делать - тоже может иметь смысл. А ещё ведь модель можно зафайнтюнить под свою кодовую базу, что значительно улучшит её качество для решения задач в рамках конкретного продукта или проекта. Плюс, когда люди длительно работают с одной и той же моделью или семейством они начинают чувствовать её специфику - как лучше написать промпт, где можно меньше времени тратить времени на ревью кода, а где модель может допускать больше ошибок при генерации итп. Это тоже всё важные моменты. Я себе это представляю как выбор между "живой джун на год" или "вечный джун навсегда и платим только за первый год сразу".
Для компании, которая не использует ИИ в своих продуктах, хостить большую модель и скейлить на всех не очень-то просто.
Для большой - нет. Для малой или средней вполне возможно. Да, тот же GLM, вполне себе подойдёт. Качество там вполне себе нормальное и стоимость генерации. Ну, и дальше - это же предсказуемость расходов, пусть и с некоторыми потерями в потенциале масштабирования. Но да, независимость и предсказуемость, - это дорогое удовольствие. Хотя, у меня есть определённые надежды на DGX Spark - массив из 3-4 машинок вполне себе потянет малую компанию
Правильно. Вместо того, чтобы улучшать качество решения моделями задач, - улучшают «эмоциональное вовлечение». А тем временем опенсорс уже вполне догнал по качеству и стоит намного дешевле. Ну и усё. Скоро модели будет выгоднее на своём железе запустить для малых и средних фирм, чем платить охреневшие ценники, которые ломят на enterprise планах
Комментарии
Прикиньте, в Европе семья может жить на зарплату жены, пока муж ищет новую работу. Ужас. Не то, что в хрустальном сосуде: или оба работают, или в микрокредиты залезать.
Ты внутри себя спрашиваешь простим ли мы тебе весь ПЦ, который ты устроил, если закопаешь деда и его семью? Обсуждаемо. Вечером стулья - утром деньги. Но сначала стулья.
Я бы предложил ему 300 и знакомый гул дизельного мотора :)
Походу у пейзан совпало: осенний призыв, окончание учебки и пятничка :) В этом году невооруженным глазом видно резкое снижение качества отбора. Совсем васьков набрали.
Так просто логи анализировать проще. Я б туда ещё вставил спецтокен "<каюсь после того как заметили>" и смотрел КАК ИМЕННО этот вот пользователь негодует и почему. Естественно, что проблему пользователя никто решать не будет (ну или там спрогнозируют кого налево, кого направо). Так что да, Сэм (ну или кто там), ты прав, учи этих вайбкодеров, кто тут главный. Офигеть - "у меня стёрли диск - напишу-ка пост", вместо того, чтобы в суд идти. И потом уже посты писать. Учи, Сэм, этих бородатых детей.
До получки две недели. А пятница есть пятница, поэтому тщ там что-то "на вексель" взял в одном из кафе, возле казармы, куда никогда не ходит ни пожарка, ни санстанция. Это почти как чепок, но с "векселем" и водкой. Такой, малый успешный стабильный бизнес. Главное - давать на "вексель" и не распространяться.
Отличная темка в стиле "как кинуть тупых инвесторов на 60 ярдов". Обещали метавселенную, а создали нечто, что даже до mmo-RPG начала века слабо дотягивает как по графону, так и по полезности. Эквивалент 80% годового ВВП хрустального сосуда потратили на "простите не получилось".
Гы, дикий прапор накатил в пятничку вечером. Зырьте как его прёт :) Танцуют все!
Согласен. На какие-то мелкие задачи вполне хватает даже 4b или 8b моделек и можно без GPU. Мне кажется, что манагеры из-за дефицита технических знаний захайпились на этих дорогих здоровенных моделях, хотя большинство задач можно решить просто тюнингом малых. Забивают гвозди микроскопом.
Для дома в контексте разработки «на дядю» или для пет-проекта - смысла нет. Хотя, если человек занимается научной деятельностью и имеет коварный план … :)) А для мелких нужд и экспериментов , согласен, видюха за $1к и малые модели - выше крыши. Сейчас с одной такой идеей развлекаюсь just for fun - пытаюсь IoT домашний с Meshtastic совместить с маленькими моделями из семейства granite4 на локальном дешёвом железе. В Кракове у нас Meshtastic довольно развитое покрытие имеет, поэтому довольно занимательно получается. Без инета за сотню км можно управлять устройствами, может быть перспективно для сх в горной местности.
Чот я таких фамилий в списках форбс не видел. Там обычно люди, которые всю жизнь отлично высыпаются.
Зависит от специфики проекта или продукта. Если стартап занимается хемиинформатикой, например, или ещё чем-то узкоспециализированным с высокой добавленной стоимостью - однозначно смысл есть. Или джуна на год нанять или два девайса купить (и это те же расходы). Если прогорел - всё расходимся, железо - остаётся. Если какой-нибудь гэмблинг или необанки, где очень любят всё на своем железе делать - тоже может иметь смысл. А ещё ведь модель можно зафайнтюнить под свою кодовую базу, что значительно улучшит её качество для решения задач в рамках конкретного продукта или проекта. Плюс, когда люди длительно работают с одной и той же моделью или семейством они начинают чувствовать её специфику - как лучше написать промпт, где можно меньше времени тратить времени на ревью кода, а где модель может допускать больше ошибок при генерации итп. Это тоже всё важные моменты. Я себе это представляю как выбор между "живой джун на год" или "вечный джун навсегда и платим только за первый год сразу".
За срочку в ойтероте можно максимум до старшины дослужиться. А этот максимум ефрейтор.
Дак уже можно. DGX Spark + GPT Oss:120b. Тот вроде даже до о4-mini дотягивает. Сам девайс $5к стоит.
Ему не ясно как отчёт писать. Такой был темак - до НГ можно было воздух портить и отчитываться. А тут вжух и за один день облом случился.
Щас товарищ майор взгрустнёт. Повесточка сорвалась.
Для большой - нет. Для малой или средней вполне возможно. Да, тот же GLM, вполне себе подойдёт. Качество там вполне себе нормальное и стоимость генерации. Ну, и дальше - это же предсказуемость расходов, пусть и с некоторыми потерями в потенциале масштабирования. Но да, независимость и предсказуемость, - это дорогое удовольствие. Хотя, у меня есть определённые надежды на DGX Spark - массив из 3-4 машинок вполне себе потянет малую компанию
Правильно. Вместо того, чтобы улучшать качество решения моделями задач, - улучшают «эмоциональное вовлечение». А тем временем опенсорс уже вполне догнал по качеству и стоит намного дешевле. Ну и усё. Скоро модели будет выгоднее на своём железе запустить для малых и средних фирм, чем платить охреневшие ценники, которые ломят на enterprise планах
Какая-то очень вольная интерпретация. Возможно, затрагивает лишь тех, кто счёт открыл по визе, но в Польше не находится. Мне ничего не приходило.
Блолженос, ё-мобиль и прочие "убийцы" конкурентов...