Self-hosted в работе с ML — это база. Для работы с данными, особенно если они чувствительные, нужно собственное хранилище, а также ресурсы, на которых можно быстро и без очереди развернуть пайплайн. Часто в «джентльменский набор» ML-инженера входит: Jupyter Notebook, фреймворки…

Всем привет! Меня зовут Никита Горячев. Сейчас работаю в качестве Senior Machine Learning Engineer в WB Tech — занимаюсь исследованиями в рекомендациях и LLM. До этого работал в МТС и Сбере, где тоже занимался рекомендашками. Написал книгу про LLMOps и…

Перед запуском GenAI-платформы важно начать с задач, которые дают максимальный бизнес-эффект. Сценарии с высокой отдачей обычно характеризуются понятной метрикой успеха и большим масштабом, где автоматизация или генерация приносят ощутимую экономию. Критерии отбора включают явный экономический эффект (рост выручки, снижение затрат,…

Протестировали нейросети и показали, в чём разница между разными моделями видеокарт — не только AI/ML-инженеры должны понимать, что скрывается за TFLOPS, и в чём их разница.Как сравнить?Мы будем сравнивать производительность видеокарт с точки зрения конечного пользователя: время выполнения одинаковой задачи.Пример…

Секреты — это то, без чего не живёт ни одно приложение: токены, пароли, ключи. Хранить их опасно, доставлять — ещё опаснее. Мы во «Фланте» тоже когда-то верили в HashiCorp Vault, но быстро поняли, что с ним не всё так гладко.…

Привет! Меня зовут Антон Бугерко. Я руковожу проектами по разработке в IT-Solution — платиновом партнере «1C-Битрикс», интеграторе Битрикс24 и крупнейшем разработчике приложений для данной платформы.В этой статье я расскажу о технологии интеграции Битрикс24 со сторонними сервисами, которая применяется в IT-Solution,…

Хотите ускорить запуск приложения и сэкономить память? Аннотация @Lazy в Spring поможет инициализировать бины только тогда, когда они действительно понадобятся. Команда Spring АйО поможет разбобраться, как применять @Lazy точечно и глобально, в чём плюсы и подводные камни ленивой инициализации, и…

Как хостинговая компания мы регулярно сталкиваемся с искусственным устареванием. Очередной раз, наступив на End-of-life (EOL), я полез смотреть, откуда вообще эта гадость ползет, и наткнулся на первую хорошо задокументированную историю про устаревание лампочек. На хабре про этот сговор уже рассказывали,…

Или как культура страха убивает продуктМногие компании мечтают о сильной и самоорганизующейся команде.О людях, которые берут на себя ответственность, двигают проект вперёд и решают проблемы без лишнего шума.Но иногда всё наоборот: команда будто парализована.Всё есть — опыт, мотивация, даже интерес.…

Технология eBPF не нова. Её используют повсеместно, ведь она упрощает написание кода для ядра ОС. Классно и удобно, а главное безопасно! Но, как оказывается на практике, не все так гладко… Это не только удобное средство для написания кода, но и…