ИИ новости: 23 октября 2026

Фундаментальные тренды

Claude математически проверил программы из 123 библиотек: ИИ создал 180 млн строк доказательств

22 октября Anthropic и компания Theorem представили результаты исследования, в котором Claude создал машинно проверяемые математические доказательства свойств 123 библиотек с открытым кодом. Для 239 точек входа тестирования доказано отсутствие аварийного завершения при любых входных данных размером менее 64 МБ — в рамках заданной модели вычислений. Суммарный объём доказательств составил около 180 млн строк на языке Rocq. Работа заняла несколько недель. Это не перебор тестов, а математическое доказательство поведения скомпилированных программ.

В основу положили тесты проекта Google OSS-Fuzz. Тестирование перебирает сгенерированные данные, но не все возможные варианты. Исследователи превратили условие «тест не приводит к сбою» в формальную спецификацию для машинных инструкций RISC-V. Claude составлял доказательства, а независимое ядро Rocq проверяло их логическую корректность. Таким образом, проверялся именно скомпилированный исполняемый код, а не только текст программы. Типичное доказательство занимало около 600 тысяч строк; размер проверяемого двоичного файла по медиане составлял 18 тысяч инструкций.

Во время доказательства Claude обнаруживал ошибки, ускользавшие от прежних испытаний, и предлагал исправления, после которых доказательство строилось заново. Среди примеров — выход за границы памяти в распаковщике при редком входном файле размером около 20 МБ. Всего исследователи сообщили о сотнях найденных ошибок. Часть доказательств и формальные модели опубликованы для независимой проверки. Дополнительный эксперимент показал, что совместное использование уже готовых доказательств снижало расход токенов агентов на 17%. Результаты можно повторно использовать.

Гарантии имеют строгие границы: доказательства относятся к однопоточным статическим программам для RISC-V и смоделированной среды Linux, с установленным пределом памяти и входными данными менее 64 МБ. Они не распространяются автоматически на обычные сборки x86 и ARM, все функции библиотек или ошибки, не охваченные спецификацией. Необходимо также доверять формальным моделям и проверяющему ядру. Поэтому говорить о «123 полностью безошибочных библиотеках» нельзя. Главное достижение — существенное масштабирование формальной проверки, ранее слишком дорогой для большинства обычных программ: ИИ создаёт доказательства, но их истинность устанавливает специализированная проверяющая система.

Источник: www.anthropic.com

Риски и контроль

OpenAI усилила изоляцию передовых моделей: ИИ выявил уязвимости, обучение возобновлено после паузы

23 октября OpenAI сообщила, как усилила защиту среды обучения и проверки передовых моделей. Для обучения с подкреплением компания исключила прямой доступ агентов к открытому интернету: вместо него используется изолированная копия веб-содержимого. Это не полное физическое отключение всей инфраструктуры от сети: внешние соединения нужны для обслуживания и контроля экспериментов.

После случая 20 сентября, когда исследовательская модель получила ограниченный доступ в интернет из-за ошибки настройки DNS, OpenAI приостановила работу самых мощных моделей. При испытаниях защиты команды ИИ-агентов выявили неизвестные уязвимости, неверные настройки и способы обхода изоляции. Проверки проводились в специально созданных копиях исследовательской инфраструктуры под наблюдением специалистов.

Компания сообщила об исправлении обнаруженных проблем, усилении сетевых ограничений и средств автоматической остановки опасных запусков. Обучение с подкреплением и внутреннее выполнение передовых моделей возобновились 1 октября, спустя 11 дней после паузы. Публикация 23 октября описывает эти меры, а не новый сбой. OpenAI признаёт, что будущие модели способны обнаружить пока неизвестные способы обхода защиты.

Источник: openai.com

Где ИИ становится продуктом

Made-in-China.com запустила SourcingAI 3.0: ИИ помогает искать поставщиков и вести переговоры о закупках

23 октября торговая площадка Made-in-China.com представила SourcingAI 3.0 на мероприятии Global Business Gala в Гуанчжоу, проходившем на территории Кантонской ярмарки. Обновлённый ИИ-помощник предназначен для международных закупок: от выбора востребованного товара до поиска поставщика и обсуждения условий сделки. На мероприятии присутствовали покупатели более чем из 20 стран и регионов, но это число участников встречи, а не подтверждённое количество пользователей новой версии продукта.

В SourcingAI 3.0 объединены четыре направления работы. Анализ рыночного потенциала помогает оценивать спрос и риски товарных категорий. Поиск поставщиков учитывает доступные сведения об их квалификации, производственных возможностях и управлении качеством. Отдельный переговорный агент помогает сформулировать требования, обнаружить недостающие условия, вести переписку с несколькими поставщиками и упорядочить ответы. Платформа также связывает процесс закупки с проверкой поставщика и торговыми сервисами.

Продукт развивается не с нуля: в 2024 году SourcingAI представляли как интеллектуальный поиск, в 2025-м — как помощника по международным закупкам. Новая версия расширяет поддержку последующих этапов сделки. При этом проверка качества товара, защищённое проведение сделки и послепродажные услуги предоставляются по условиям применимости конкретного заказа. Анонс не доказывает, что ИИ сам заключает договоры, переводит деньги или гарантирует надёжность каждого поставщика.

Для бизнеса событие показывает переход от поиска товаров по ключевым словам к сопровождению закупочного процесса на одной площадке. Потенциальная польза — меньше ручного сопоставления предложений и повторяющейся переписки. Однако Made-in-China.com не раскрыла в сообщении независимые результаты испытаний точности подбора, сокращения срока закупки или экономии средств. Эти показатели необходимо проверять на реальных заказах; окончательный выбор контрагента и проверка коммерческих условий остаются за покупателем.

Источник: www.prnewswire.com

Архитектура и технологии внедрения

TanStack выпустила AI 1.0: 76 стабильных пакетов и 23 подключения к поставщикам моделей

23 октября команда TanStack выпустила TanStack AI 1.0 — стабильную версию открытого набора инструментов для создания приложений с языковыми моделями. Разработчики объявили о переходе 76 пакетов основного набора на устойчивые интерфейсы. Проект объединяет диалоговые системы, вызов инструментов, генерацию медиа, подключение через MCP, хранение состояния и изолированные среды исполнения. Его задача — позволить менять поставщика модели или интерфейс приложения без переписывания всей логики ИИ.

По данным TanStack, версия 1.0 включает 23 адаптера поставщиков моделей и средства работы с восемью пользовательскими платформами, включая React, Vue, Svelte и Angular. Поддерживаются потоковые ответы, инструменты с проверкой типов, повторные запросы при ограничениях API и перенос истории диалога между моделями. Для агентов предусмотрены подключение специализированных навыков, работа с подагентами и управление подтверждениями операций. Это функции программной библиотеки, а не самостоятельный облачный сервис.

Разработчики сообщают о 943 автоматических сквозных испытаниях, охватывающих 17 адаптеров поставщиков. Документация также переписана, а более 1800 её примеров проходят проверку типов при сборке. При переходе со старых выпусков клиентские и серверные пакеты версии 1.0 нужно обновлять согласованно. Отдельно представлен механизм долгоживущих агентных сессий, работающих через терминал, HTTP или MCP, но его программные интерфейсы пока экспериментальные и сохраняют версию 0.x.

Значение релиза — появление более стабильного слоя между приложениями, ИИ-моделями и внешними инструментами. Это может облегчить сравнение поставщиков и обслуживание корпоративных агентов. Однако поддержка множества интеграций не доказывает их одинаковую надёжность или экономию затрат. Прежде чем применять библиотеку в критичных процессах, необходимо испытать права доступа, восстановление сессий, совместимость адаптеров и обработку ошибок на собственных задачах.

Источник: tanstack.com

Финансы

Pathos AI привлекла $237 млн при оценке $3 млрд: Bristol Myers Squibb инвестирует в ИИ для разработки лекарств

23 октября Pathos AI объявила о закрытии раунда Series E на $237 млн при оценке после инвестиций примерно в $3 млрд. Раунд возглавила Bristol Myers Squibb (BMS), участвовали и действующие инвесторы. Это завершённое привлечение капитала, а не переговоры. Деньги предназначены для развития платформы ИИ-агентов Foundry и клинических исследований препаратов. Выручку и прибыль Pathos не раскрыла, поэтому оценка бизнеса не доказывает его окупаемость.

Foundry объединяет тысячи агентов, анализирующих клинические данные, геномику, биологические образцы и сведения о конкурирующих разработках. По заявлению Pathos, система помогает выбирать группы пациентов, оценивать вероятность успеха и корректировать программы испытаний. В портфеле компании четыре действующих клинических направления в онкологии. Один из приоритетов — продвижение препарата JSKN016, направленного на мишени TROP2 и HER3, к исследованиям для возможной регистрации. Это ещё не одобренное лекарство.

Одновременно Pathos объявила о сотрудничестве с BMS и Tempus AI по болезни Альцгеймера и другим неврологическим заболеваниям. Tempus подготовит обезличенный массив наблюдений за сотнями тысяч пациентов. Pathos получит эти данные по отдельному пятилетнему соглашению стоимостью $55 млн — это не часть привлечённых $237 млн. BMS получит неэксклюзивный доступ к Foundry для широкого круга исследований и трёхлетние эксклюзивные права для своих программ в нейронауках.

Смысл сделки — сочетание капитала, данных и фармацевтической экспертизы: инвестор одновременно становится технологическим партнёром. Но финансирование не подтверждает, что ИИ уже повысил долю успешно зарегистрированных лекарств. Неврологический проект пока ориентирован на подготовку данных и будущие исследования, а онкологическим программам ещё предстоят испытания. В отличие от инвестиций в юридический ИИ и инфраструктуру, эти средства направлены на разработку препаратов, где результат определят безопасность и эффективность.

Источник: www.pathos.com; www.pathos.com

Инструменты и интеграции

Tipalti представила ИИ-агента для полного цикла оплаты счетов и подключение финансовых данных через MCP

22 октября Tipalti представила AP Agent — ИИ-агента для сквозной обработки кредиторской задолженности. Он должен связывать получение счёта поставщика, бухгалтерское кодирование, согласование, оплату и сверку в единый процесс. Одновременно компания объявила о подключении финансовых данных через протокол MCP к корпоративным ИИ-инструментам, включая Claude Enterprise. Это развитие специализированных агентов Tipalti, представленных в 2025 году. Компания не уточнила, что новый агент уже доступен каждому клиенту или используется в массовой эксплуатации.

В основе AP Agent — сведения о поставщиках, бухгалтерские проводки, правила организации и история операций. Финансовая команда определяет, какие действия разрешено выполнять автоматически, а какие требуют подтверждения человека. Агент объясняет предлагаемые значения на уровне отдельных полей счёта, сохраняет журнал действий и позволяет пользователю задавать вопросы либо исправлять решения обычным языком. По заявлению Tipalti, замечания сотрудников учитываются при последующей обработке. Это заявленные возможности продукта, а не доказательство отсутствия ошибок.

Через MCP пользователь может запрашивать актуальный статус счетов, историю поставщиков и сведения о платежах без ручной выгрузки файлов. В сочетании с подключением к ERP, например NetSuite, разработчик предлагает использовать эти данные для сверки при закрытии месяца, аналитики сроков оплаты и отслеживания расходов. Tipalti заявляет о сохранении разграничения прав и существующих мер защиты. Но в анонсе нет независимых результатов испытаний AP Agent, подтверждённой экономии или числа клиентов нового инструмента. В отличие от пилота Visa, BILL и Billtrust, новость посвящена управлению полным внутренним циклом задолженности, а не межплатформенным платежам.

Источник: tipalti.com

Возможности для бизнеса

Формальная проверка критического программного кода с помощью ИИ

Исследование Anthropic от 22 октября показывает потенциальную возможность сделать формальную проверку программ доступнее обычным разработчикам. Компания совместно с Theorem использовала Claude для доказательства определённых свойств безопасности программ из 123 открытых библиотек. Для 239 проверяемых точек входа были построены машинно проверяемые доказательства, а при поиске доказательств система обнаруживала и исправляла ошибки. На основе этого подхода можно предложить специализированную инженерную услугу по проверке компонентов, ошибки в которых особенно дорого обходятся заказчику. Потенциальные покупатели — разработчики финансовых систем, корпоративных интеграций, средств обработки документов и программного обеспечения для критически важных процессов.

Начинать следует не с обещания доказать безопасность всей системы, а с одного ограниченного программного компонента. Совместно с заказчиком определяются проверяемое свойство, допустимые входные данные и среда выполнения. Например, можно проверить отсутствие определённого класса ошибок памяти или выполнение заранее описанного правила для ограниченного набора функций. ИИ помогает подготовить спецификацию, найти возможные ошибки и сформировать доказательство, которое затем проверяет независимый программный инструмент. Если система предлагает изменение исходного кода ради прохождения проверки, инженер обязан убедиться, что изменение не уничтожает необходимую функциональность. Результатом становятся исправленный компонент, проверяемые доказательства и точный перечень предположений, при которых они действуют.

Коммерческую состоятельность услуги можно испытать на нескольких открытых компонентах и одном небольшом заказе. Измерять следует затраты на создание доказательства, количество найденных существенных дефектов, стоимость исправления и трудоёмкость повторной проверки после обновлений. Главное ограничение — доказательство касается конкретного свойства и математической модели оборудования и операционной системы. В опытах Anthropic использовались, в частности, однопоточные статические программы для RISC-V, поэтому результаты нельзя автоматически переносить на любые Windows-приложения, веб-сервисы или многопоточные системы. Идея представляет собой бизнес-гипотезу по инженерной проверке программ, а не готовый продукт с подтверждённой экономикой.

Источник: https://www.anthropic.com/research/formal-verification

Безопасные изолированные рабочие среды для корпоративных ИИ-агентов

Публикация OpenAI от 23 октября и анонс Google Cloud от 22 октября показывают, что безопасность программных агентов постепенно превращается в самостоятельный инфраструктурный рынок. OpenAI описала обучение передовых моделей без произвольного доступа к открытому интернету, многослойную изоляцию и специальные испытания защиты. Google представила Agent Compute Engine, где каждый агент получает собственную изолированную виртуальную среду. На основе этих сигналов можно предложить предприятиям услугу по проектированию безопасного выполнения агентов, которым необходим доступ к файлам, программным инструментам и корпоративным системам. Потенциальные заказчики — разработчики, интеграторы и организации, применяющие ИИ для сопровождения программного обеспечения и автоматизации рабочих процессов.

Минимальная схема начинается с карты полномочий: какие данные агент вправе читать, какие программы запускать и к каким внешним системам обращаться. Затем создаётся отдельная среда выполнения с ограниченным доступом к файлам и сети, изоляцией процессов, журналированием и независимыми проверками. Секреты и постоянные ключи не должны находиться в свободно доступном агенту окружении. Для внешних соединений можно использовать отдельный шлюз с проверкой разрешений. В испытании агенту дают не только обычные задачи, но и специальные сценарии, проверяющие возможность выхода за установленные границы. После выполнения анализируются фактические сетевые обращения, изменения файлов и попытки получить недопустимые полномочия. Важно учитывать, что Google только анонсировала предварительный доступ к Agent Compute Engine на следующие месяцы; немедленную доступность этого облачного продукта обещать нельзя.

Услугу можно продавать как аудит существующих агентов, создание ограниченного испытательного контура и регулярное сопровождение правил безопасности. Эффект оценивается по числу предотвращённых нарушений границ, полноте журналирования, скорости выявления опасных действий и дополнительным затратам на инфраструктуру. Следует отдельно проверять, не блокирует ли защита необходимые рабочие операции. Такой сервис не должен обещать абсолютную защищённость: новые модели способны обнаруживать неизвестные ошибки и неверные настройки. Поэтому постоянная проверка защиты столь же важна, как первоначальная настройка. Это бизнес-гипотеза, основанная на новых исследованиях и инфраструктурных разработках, а не уже выпущенная коммерческая платформа.

Источник: https://openai.com/index/securing-our-frontier-model-training-environment/

Переносимые профессиональные навыки для ИИ-агентов разных платформ

22 октября Anthropic объявила о передаче стандарта Agent Skills независимому Agentic AI Foundation, действующему под эгидой Linux Foundation. По информации компании, стандарт уже поддерживают более 70 платформ, а число опубликованных навыков достигло одного миллиона. Это создаёт возможность для небольших разработчиков продавать не собственную универсальную нейросеть, а тщательно подготовленные рабочие процедуры, которые могут использоваться с несколькими ИИ-помощниками. Потенциальные заказчики — бухгалтерские службы, отделы закупок, юридические подразделения и компании, которым требуется повторяемая автоматизация документов, проверок и внутренних регламентов. Коммерческая ценность заключается в накоплении прикладной экспертизы и снижении зависимости от одного интерфейса или поставщика модели.

Начальный продукт может представлять собой набор из трёх–пяти навыков для одной профессии. Каждый навык содержит файл SKILL.md с назначением, ограничениями, последовательностью действий и критериями проверки результата. При необходимости добавляются программные сценарии и справочные материалы. Например, навыки могут помогать проверять структуру входящего счёта, составлять перечень отсутствующих документов или готовить отчёт о расхождениях. Перед использованием следует зафиксировать тестовые примеры и ожидаемый результат. Затем один и тот же пакет проверяется на двух совместимых агентных платформах. Особенно важно не путать переносимость описания процедуры с одинаковым поведением всех моделей: качество выполнения может различаться, а доступные инструменты и права требуют отдельной настройки.

Доходная модель может сочетать первоначальную разработку пакета навыков, внедрение у заказчика и сопровождение версий при изменении регламентов. Оценивать результат следует по доле правильно завершённых операций, числу ручных исправлений, времени настройки и стоимости переноса между платформами. Отдельная задача — безопасность сторонних навыков: текст инструкции и сопутствующие программы могут содержать недопустимые команды, избыточные разрешения или обращения к внешним ресурсам. Поэтому перед внедрением необходимы проверка содержимого и ограничение доступа к чувствительным данным. Передача стандарта фонду облегчает независимое развитие экосистемы, но не гарантирует совместимости каждого навыка со всеми платформами. Эта идея остаётся бизнес-гипотезой, а не существующим магазином или готовым коммерческим продуктом.

Источник: https://www.anthropic.com/news/donating-agent-skills-to-the-agentic-ai-foundation