Теренс Иден, участвовавший в продвижения открытых стандартов и открытого ПО в госучреждениях Великобритании, сообщил, что Национальная служба здравоохранения страны (NHS) готовится закрыть почти все свои репозитории с открытым исходным кодом в ответ на то, что инструменты LLM, такие как Mythos от Anthropic, всё активнее и успешнее находят уязвимости безопасности.
Иден раскритиковал это решение:
Большинство репозиториев кода, опубликованных NHS, не подвержены существенному влиянию каких-либо достижений в области сканирования безопасности. В основном это наборы данных, внутренние инструменты, руководства, исследовательские инструменты, дизайн интерфейса и тому подобное. В них нет ничего, что могло бы реально привести к инциденту безопасности.
Когда я работал в NHS во время пандемии, мы были настолько уверены в безопасности и необходимости открытого исходного кода, что позаботились о том, чтобы приложение для отслеживания контактов с больными COVID-19 было открыто для публичного доступа, как только оно стало доступно. Это было приложение, утверждённое на национальном уровне, установленное на миллионах телефонов, подвергавшееся пристальному вниманию со стороны враждебных сил — и тем не менее, несмотря на публикацию кода, архитектуры и документации, открытый исходный код не вызвал ни одного инцидента безопасности.
Иден напомнил также, что новые рекомендации прямо противоречат пункту 3 Кодекса практики технологического сектора Великобритании «Будьте открыты и используйте открытый исходный код», который настаивает на опенсорсном подходе.
Ранее сообщалось, что компании, разрабатывающие ИИ-сервисы, нашли новый источник данных для обучения своих моделей. Они начали скупать у закрывающихся стартапов рабочие переписки в мессенджерах, тикеты в Jira, письма в электронной почте и другие внутренние материалы.
ссылка на оригинал статьи https://habr.com/ru/articles/1031056/