Средние модели, большие надежды: испытываем гибридные LLM
—
от автора
—
от автора
Привет, я Дмитрий, занимаюсь развитием LLMaaS. Перед нашей командой встала задача подбора «средней» языковой модели с примерно 9B параметров для обслуживания клиентских задач: оперативные чат-боты, саммаризация документов, генерация кода и аналитика на длинных контекстах. В таких сценариях критичны не только…
—
от автора
Хроническая фоновая тревога без конкретной причины. Невозможность опереться на договорённости. Ощущение, что говорят одно, а происходит другое. Это не последствия конкретного токсичного человека — это симптомы среды. Корпоративной среды, в которой все ведут себя нормально и никто ни в чём…
—
от автора
«Давай на 1-on-1 обсудим задачи, блокеры и что планируешь делать дальше».Даже не звучит как нормальная рабочая встреча. А на практике часто получается полчаса нуднейшего созвона, где сотрудник молчит, руководитель говорит 80% времени, а после у обоих остаётся ощущение, что прогуляться вместо этой встречи было бы полезнее. лучше бы дали просто поработатьПро прогулку —…
—
от автора
В Нидерландах создали платформу совместной разработки проектов с открытым исходным кодом для госучреждений. Новый ресурс под названием code.overheid.nl разработан на базе Forgejo и позиционируется как европейская альтернатива сервисам вроде GitHub и GitLab, призванная укрепить цифровой суверенитет государства.За проект отвечает подразделение…
—
от автора
Всем привет, на фоне обновлений в LLM-стеке за последний год, решил собрать практический список RAG-подходов, которые реально используются в продакшене на основе моего опыта и того что я изучал в других кейсах. Что такое RAG (если коротко)RAG (Retrieval-Augmented Generation) -…
—
от автора
Разговор про большие языковые модели до сих пор слишком часто ведётся по одной из двух схем. Либо восторг: «смотрите, нейросеть уже пишет код и тексты», либо скепсис: «она всё равно галлюцинирует». Ни то, ни другое уже не отражает масштаб происходящего.Всем…
—
от автора
Производитель видеокарт Galax прекратит свою деятельность по всему миру. Palit Microsystems возьмёт на себя полный контроль над брендом, сообщил портал Wccftech. Galax и Palit опровергли сообщение о прекращении деятельности, заявив, что оно бездоказательно.Galax указала, что не прекращает свою деятельность. Бренд…
—
от автора
Разберем вопросы защиты приложений на базе TypeScriptЯ часто замечаю, насколько некоторые разработчики халатно относятся к вопросам безопасности своих приложений. И начинают задумываться о методах защиты только тогда, когда уже приходится переписывать большую часть приложения. Сегодня мы пройдемся по классическим и…
—
от автора
Вы попросили нейросеть сделать красивый баннер с надписью. Получили потрясающую картинку — и размытые закорючки там, где должен был быть текст.Или того хуже: буквы есть, но они перепутаны местами, слеплены друг с другом, наполовину превратились в иероглифы. Иногда похоже на…
—
от автора
Привет, хабр! Ситуация до боли знакома каждому, кто регулярно арендует выделенные серверы. Вы оплачиваете счет, заходите в панель хостера, выбираете Debian, жмете «Установить» и идете пить кофе. Через 10 минут SSH-порт открыт. Вы логинитесь, вводите lsblk и… начинается лотерея.Некоторым провайдерам…