Языковая модель пишет ответ по одному токену за шаг, и на каждом шаге прочитывает все свои веса от начала до конца. Спекулятивное декодирование пытается это обойти: маленькая черновая модель набрасывает несколько токенов вперёд, причём сразу деревом вариантов, а большая проверяет…

Дисклеймер. Статья для разработчиков уровня junior и middle, которые знакомятся с принципами чистого кода и SOLID. Примеры кода — PHP 8.1+.Всем доброго дня! На связи Валевич Артем — тимлид в компании AGIMA.В первой части серии мы разобрали Single Responsibility Principle…

Агент отработал полчаса и остановился. У вас спрашивают, что он делал.Вы открываете его логи. Там аккуратный рассказ агента о себе: вызвал такой-то инструмент, получил такой-то результат, решил сделать то-то. Рассказ убедительный, потому что писала его та же модель, чьи действия…

OpenAI привлекла сотни сторонних подрядчиков, которые читают и оценивают реальные переписки пользователей с ChatGPT для улучшения моделей искусственного интеллекта компании. Об инициативе под кодовым названием Project Lily сообщило издание 404 Media со ссылкой на внутренние документы и общение с участниками программы.Иногда разговоры с чат‑ботами содержат конфиденциальную информацию, к которой…

Выключил ПК перед отпуском и управляю им с телефона: ESP32 за $5, Wake-on-LAN и два канала командУезжал в долгосрочный отпуск, а дома оставалась рабочая машина с RTX 5090. Я точно знал, что GPU понадобится: локальные модели, обработка медиатеки, эксперименты. Оставлять…

Еще несколько лет назад большинство инцидентов вокруг API выглядело довольно предсказуемо. Если приложение начинало вести себя подозрительно, специалисты искали ошибки авторизации, проблемы контроля доступа, признаки SQL-инъекций или попытки эксплуатации известных уязвимостей. Логика была простой: есть уязвимость => есть эксплуатация => есть…

Это он, это он, Lenovo IdeaPad игровой чемпион (правда, не совсем)Привет, Хабр! Сегодня расскажу о попытке (вроде как небезуспешной) ремонта ноутбука. Это Lenovo IdeaPad Gaming 3, его я несколько лет назад купил по случаю, причем совсем недорого. Ноутбук не включался,…

Новые инструменты появляются быстрее, чем успевают сформироваться привычные рабочие процессы: искусственный интеллект меняет подходы к разработке и аналитике, инфраструктура становится сложнее, а от специалистов ждут всё более глубокого понимания технологий.При этом часто возникает практический вопрос: что изучать дальше, чтобы решать более сложные задачи в работе? Как выбрать тему,…

Привет, Хабр! Меня зовут Александр, я работаю DevOps-инженером в команде Мир Plat.Form. Одна из достаточно сложных задач, которая стояла перед отделом DevOps, это миграция Jenkins в K8S и развертывание динамических (эфемерных) агентов. Сама миграция Jenkins оказалась относительно простой частью. Но…

В январе я рассказал на Хабре, как почти тридцать лет собирал кино, переходил от видеокассет к DVD, от Excel к специализированным программам и в итоге решил разработать собственный сервис — flickollect.В конце той статьи я написал: «Проект готов».Сейчас, спустя несколько…