🔥 В фокусе
Команда исследователей безопасности взломала внутреннюю кодовую базу OpenAI с помощью Claude : Исследовательская группа по безопасности Hacktron AI сообщила, что в рамках программы bug bounty исследователи при содействии Claude Opus 5 за 72 часа скомпрометировали учетную запись сотрудника OpenAI и отправили проверочный PR в основной приватный монорепозиторий (openai/openai), содержащий алгоритмические секреты. Цепочка атак началась с уязвимости переполнения буфера в куче libheif в компоненте загрузки изображений форума Discourse, что в сочетании с ошибкой конфигурации OpenAI SSO позволило перехватить привязанный к GitHub аккаунт сотрудника Codex; затраты на токены LLM составили менее 3000 долларов. Инцидент вызвал серьезный резонанс и настороженность в индустрии по поводу того, что «передовой AI стремительно демократизирует возможности проведения опасных кибератак», а также обнажил уязвимость защиты ведущих лабораторий (Источник: The Wall Street Journal, 36氪)
Универсальная модель медицинских изображений RADAR от Alibaba DAMO Academy опубликована в Science и полностью открыта в open-source : DAMO RADAR, первая в мире универсальная модель экспертного уровня для визуализации брюшной полости, разработанная Alibaba DAMO Academy совместно с Первой клинической больницей Медицинского колледжа Чжэцзянского университета и десятками других медицинских учреждений, была опубликована в основном выпуске журнала Science. Модель преодолевает ограничения традиционного медицинского AI, замкнутого на отдельных заболеваниях: благодаря мелкозернистому согласованию изображений и текста на уровне органов и адаптивному контрастному моделированию одна модель охватывает 146 заболеваний в 18 анатомических структурах брюшной полости со средним AUC 0,913 в мультицентровых испытаниях. Точность диагностики сопоставима с показателями опытных радиологов, а совместная работа человека и машины сокращает время анализа снимков на 30,7%. DAMO Academy полностью открыла веса модели, фреймворк для обучения и код для оценки (Источник: Science, 36氪)
Anthropic раскрыла, что 26% R&D автономно перешли под управление AI, и запустила программу LSVP для наук о жизни : Anthropic впервые обнародовала внутренние метрики R&D: Claude под надзором человека уже «руководит» (уровень AL4) 26% исследований и разработок передовых моделей компании (полгода назад этот показатель составлял менее 1%). Внутри компании непрерывно функционируют более 30 000 агентов, инициируя свыше 1 миллиарда решений в месяц. Одновременно с этим Anthropic официально представила Программу верификации для наук о жизни (LSVP), частично открывающую доступ к передовым моделям для проверенных фармацевтических компаний и исследовательских институтов. Она внедряет новую парадигму управления безопасностью на основе декларирования намерений, 30-дневного офлайн-аудита и разделенной ответственности взамен традиционной жесткой блокировки в реальном времени (Источник: Anthropic News, AnthropicAI)
В иске The New York Times против Microsoft и OpenAI рассекречены ключевые внутренние документы: топ-менеджер Microsoft назвал AI-скрейпинг «крупнейшей кражей труда» : Недавно рассекреченные судебные документы показывают, что Брент Хект (Brent Hecht), директор по прикладным наукам в Microsoft, во внутренних обсуждениях охарактеризовал несанкционированный скрейпинг новостей для LLM как «крупнейшую кражу труда в истории человечества» и «полную насмешку над доктриной добросовестного использования». Руководство OpenAI также признавало, что их продукты представляют «существенную угрозу замещения» для издателей. Документы раскрыли подробности обхода пейволлов обеими сторонами для сбора данных, что ставит традиционную защиту AI-индустрии на основе Fair Use под беспрецедентный юридический удар (Источник: TechCrunch)
🎯 События
Alibaba Tongyi выпустила мультимодальную модель Qwen3.8-Omni-Flash с контекстом 1M и сопутствующую экосистему : Команда Alibaba Tongyi официально представила Qwen3.8-Omni-Flash — первую мультимодальную модель, ориентированную на агентные рабочие процессы и нативно поддерживающую ввод текста, изображений, аудио и 1 часа непрерывного видеопотока. Модель использует механизм активного восприятия от грубого к тонкому, что повысило точность на бенчмарке понимания сверхдлинного видео OmniVideoBench до 67,8 при снижении расхода токенов на 45,7%, а стоимость Video API снизилась примерно на 89% по сравнению с предыдущим поколением. Команда также открыла исходный код инструментов Qwen-MM-Plugins с поддержкой мультитерминального Harness и omni-skill-creator (Источник: Qwen, Alibaba_Qwen)
DeepSeek представила DeepSeek-V4.1-Flash, устраняющую проблему узкого места KV Cache для сверхдлинного контекста : DeepSeek выпустила мультимодальную MoE-модель DeepSeek-V4.1-Flash на 552B параметров с поддержкой контекста в 1 миллион токенов. Архитектура каузального кодирования-декодирования (CED) позволяет активировать всего 8B параметров на этапе Prefill, а в сочетании с кросс-слойным переиспользованием CSA2 и компрессией FP4 объем памяти глобального KV Cache в HBM снижается до 890 байт/токен (всего 1/4 от предыдущего поколения), что существенно сокращает затраты на развертывание долгосрочных агентных нагрузок (Источник: HuggingFace Daily Papers)
Figure представила воплощенную модель Helix 2.5 и подтвердила zero-shot генерализацию в реальных домохозяйствах : Стартап в сфере гуманоидных роботов Figure представил сквозную нейросеть нового поколения Helix 2.5 и провел тесты по уборке, заправке кроватей и складыванию полотенец в 30 незнакомых домах в районе залива Сан-Франциско. Эксперименты показали, что после предварительного обучения на масштабном индексе поведенческих данных от первого лица показатель успешности zero-shot выполнения задач всем телом в невиданных ранее средах вырос с 9% до 56%, что предварительно подтверждает действие Scaling Law при переносе массивного человеческого опыта на прогнозирование действий физического робота (Источник: 36氪)
SenseTime опубликовала технический отчет SenseNova-U1.5: нативная унифицированная мультимодальность на базе Flow Matching и многоэкспертной дистилляции : SenseTime опубликовала полный технический отчет о нативной унифицированной мультимодальной модели SenseNova-U1.5 на 8B параметров. Модель использует архитектуру NEO-unify и компактные визуальные токены 32×32, поддерживая нативную генерацию 4K-изображений за счет 2D-реконструкции поля признаков с помощью свертки 3×3. На этапе пост-обучения инновационно применена парадигма онлайн-дистилляции стратегий (OPD) «сначала специализация, затем унификация», объединяющая четыре экспертных навыка — эстетику, OCR, инфографику и точное редактирование — в единый базис, сочетающий сложные рассуждения и попиксельную генерацию (Источник: WeChat)
Huawei перенесла массовое производство AI-чипов Ascend 960DT на первый квартал 2027 года : На конференции Connect компания Huawei объявила о переносе даты релиза чипа следующего поколения Ascend 960DT с ранее запланированного третьего квартала 2027 года на первый квартал. Опираясь на вычислительную архитектуру Peerium и технологию высокоскоростной интерконнект-связи UnifiedBus, Huawei строит суперкластер Atlas 950, способный объединять до 256 000 плат-ускорителей, стремясь преодолеть вычислительную блокаду за счет инноваций системного уровня и сократить отставание от NVIDIA (Источник: TechCrunch)
PrismML представила тернарную on-device модель Bonsai 2 27B, вызвав споры в сообществе по поводу бенчмарков : Компания PrismML на базе Qwen3.8-27B представила тернарную квантованную модель Bonsai 2 27B, заявив о сжатии размера модели в 9,3 раза до 5,9 ГБ при сохранении 98,2% совокупной производительности и возможности плавной работы на потребительских устройствах через WebGPU. Однако детальный разбор технического описания и тесты сообщества показали реальное падение производительности примерно на 25% в бенчмарках для долгосрочных агентов, таких как Terminal-Bench и SWE-bench Verified, что вызвало широкие дискуссии о манипуляциях с метриками («cherry-picking») при экстремальном низкобитном квантовании (Источник: TechCrunch, Reddit r/LocalLLaMA)
Cactus представила on-device модель автоматизации Needle 3 и ступенчатую архитектуру : Cactus Compute открыла исходный код базовой модели автоматизации Needle 3 на 121M параметров. Благодаря сочетанию Simple Attention, Hadamard MLP и хеш-таблиц Engram ее вычислительные затраты эквивалентны модели на 50M. Уникальная ступенчатая архитектура («Smart Ladder») поддерживает динамическое усечение от 2 до 20 слоев при развертывании (размер 8–29 МБ), а скорость декодирования исключительно на CPU достигает 4000 токенов/сек, обеспечивая детерминированное управление и вызов функций на периферийных и носимых устройствах без подключения к сети (Источник: Reddit r/LocalLLaMA)
Wenzhun Intelligence совместно с Университетом Цинхуа выпустила базовую модель структурированных данных LimiX-2 : Wenzhun Intelligence представила универсальную модель для структурированных данных LimiX-2 на 400M параметров. Отказавшись от прежней парадигмы предсказания одной цели, авторы предложили контекстные сети механизмов (CMNs) и условное маскированное моделирование (CCMM), опустив моделирование на уровень ячеек (Cell-Level) для изучения совместных причинно-следственных зависимостей между переменными. Модель заняла лидирующие позиции в задачах классификации и регрессии на международных бенчмарках TabArena и TALENT, превзойдя Google TabFM и SAP TabPFN (Источник: 量子位)
Apple представила алгоритм дискретного Flow Matching с энергонавигацией TS-DFM и обучение с подкреплением для диффузии DACA-GRPO : Команда Apple Machine Learning опубликовала две передовые разработки в области генеративного AI: алгоритм TS-DFM предлагает дистилляцию с энергетической навигацией, используя легковесный энергетический компас для исправления ранних скачков траектории в дискретном Flow Matching, превосходя 1024-шаговую модель-учитель всего за 8 шагов с ускорением в 128 раз; DACA-GRPO решает проблему распределения временной ответственности при обучении с подкреплением диффузионных языковых моделей, улучшая генерацию кода на 7,4 п.п. и следование ограничениям на 36,3 п.п. (Источник: Apple Machine Learning Research)
ООН совместно с Google запустила платформу UN System Data Commons с поддержкой стандарта MCP : ООН и Google.org совместно запустили платформу структурированных открытых данных, объединившую официальные авторитетные наборы данных из 26 агентств ООН. Решая проблему низкой точности LLM при ответах на глобальные статистические показатели (ранее всего 21,2%), платформа на базе графа знаний Google поддерживает запросы на естественном языке и нативно совместима с протоколом MCP, позволяя различным AI-агентам напрямую обращаться к достоверным источникам для кросс-доменного анализа и генерации диаграмм (Источник: Google AI Blog, 36氪)
🧰 Инструменты
Anthropic переработала Projects в Claude Code: многопоточная совместная работа и постоянная память проекта : Anthropic запустила архитектуру Projects в десктопной и веб-версиях Claude Code. Пользователь может задать высокоуровневую цель в одной сессии, а главный координирующий агент (Coordinator) автоматически разделит ее на параллельные облачные подзадачи для независимого выполнения, отладки багов и отправки PR. Все подзадачи используют общую развивающуюся память и контекст проекта, поддерживая асинхронную работу офлайн и непрерывное взаимодействие (Источник: dotey, Anthropic News)
Десктопный персональный агент Muse от Meta официально запущен на macOS : Персональный AI-агент Muse от Meta после мобильного релиза получил нативный клиент для Mac. Приложение глубоко интегрируется в рабочие процессы на рабочем столе, получая с явного разрешения доступ к локальным файлам, календарю, заметкам и контактам, и способно автономно выполнять организацию файлов, автозаполнение форм и консолидацию информации в локальной безопасной песочнице (Источник: The Verge, AIatMeta)
OpenAI официально выпустила флагманский продукт для юриспруденции Astra for Law : На базе модели GPT-6 Astra и индекса прецедентного права и нормативных актов США, содержащего 230 млн URL-адресов, OpenAI представила Astra for Law. Модель показала точность 54% на Legal Research Bench (против 38,7% у базовой версии), интегрирует 26 официальных и 47 партнерских плагинов (включая Harvey и Legora) и предлагает изолированную архитектуру конфиденциальности Trusted Access с нулевым сохранением данных для проверки контрактов, комплексной проверки сделок и подготовки документов (Источник: OpenAI News, gdb)
Salesforce обновила платформу оркестрации корпоративного уровня и детерминированной блокировки Agentforce : Salesforce представила пакет Agentforce корпоративного уровня, объединяющий Data Cloud и протокол MCP. В платформу встроен Agent Testing Center для автоматического синтетического стресс-тестирования, а также внедрен механизм детерминированного контроля (Deterministic Gating), требующий выполнения заданных правил перед совершением транзакций и операций с критическими данными; тесты в Southwest Airlines показали достижение 45% уровня полностью автоматического решения задач клиентской поддержки (Источник: MarkTechPost)
LangChain открыла исходный код воркспейса для агентов в науках о жизни Deep Life Sci : На базе архитектуры Deep Agents компания LangChain выпустила Deep Life Sci — открытый инструмент для исследователей в клинических и лабораторных областях. Система глубоко интегрирована с десятками миллионов научных статей и данных испытаний из PubMed, PubMed Central и ClinicalTrials.gov, оснащена изолированной средой исполнения кода и позволяет нескольким субагентам параллельно обрабатывать извлечение и перекрестную проверку сотен сложных научных публикаций (Источник: LangChain)
Google Labs представила семейного AI-агента для координации CC : Google Labs официально запустила экспериментального AI-агента CC для управления домашними делами. Система поддерживает одновременное подключение до 6 членов семьи с разделением прав доступа, способна автоматически разбирать школьные уведомления, синхронизировать события в календарях, обобщать напоминания и управлять многоуровневой памятью, четко разделяя «семейную информацию» и «личные предпочтения» (Источник: Ars Technica, Google)
Wood Mackenzie создала аналитическую платформу APEX на базе Bedrock AgentCore : Консалтинговый энергетический гигант Wood Mackenzie представил платформу агентов APEX. Построенная на базе AgentCore и единого шлюза MCP, она объединяет внутреннего исследовательского агента «Woody» и клиентского «Lens AI», поддерживает планирование вызовов инструментов на естественном языке, рендеринг генеративного UI с графиками в реальном времени и создание презентаций, сокращая цикл разработки отраслевых агентов с нескольких месяцев до нескольких часов (Источник: AWS Machine Learning Blog)
AWS запустила интеллектуальный инструмент для проведения собеседований Amazon Connect Talent : AWS официально представила Amazon Connect Talent для сценариев масштабного найма персонала. AI-агенты круглосуточно проводят структурированные поведенческие и логические интервью, формируя подробные отчеты с доказательной базой и критериями оценки для рекрутеров, что устраняет субъективную предвзятость и многократно повышает эффективность масштабного скрининга кандидатов (Источник: AWS Machine Learning Blog)
📚 Исследования
Многоагентная система «виртуальной биотех-компании» Стэнфорда опубликована в Science: 37 тысяч инстансов обработали массив клинических испытаний за 6 часов : Стэнфордский университет опубликовал в Science исследование системы «Virtual Biotech», моделирующей структуру фармкомпании с 4 отделами и 11 типами агентов. В задаче извлечения данных система запустила 37 075 параллельных инстансов агентов и всего за 6 часов выполнила глубокую мультимодальную интеграцию свыше 55 000 клинических испытаний (одному агенту потребовалось бы 76 дней), успешно идентифицировав B7-H3 как перспективную ADC-мишень при раке легких (Источник: Science)
Исследование Университета Цинхуа и Фудань по моделированию кросс-национальных ценностей в LLM опубликовано в Computational Linguistics : Университет Цинхуа совместно с Фуданьским университетом и Шанхайским университетом Цзяотун провели оценку 9 открытых LLM на данных Всемирного исследования ценностей (WVS) по 59 странам. Выяснилось, что модели значительно точнее отражают развитые страны с высоким качеством управления, а слабо представленные группы подвержены асимметричной ассимиляции доминирующими культурами. Исследование ввело метрику «репрезентативного равенства» и доказало, что контекстуализация специфических групп гораздо эффективнее улучшает кросс-культурную справедливость, чем простые промпты на родном языке или выравнивание предпочтений (Источник: WeChat)
Бэйханский университет и Китайский университет Гонконга предложили фреймворк самоэволюции визуальных агентов OmniHarness : Исследовательская группа представила OmniHarness — фреймворк для автономного исследования в сложных визуальных задачах. Система практикуется на основе эвристического выбора тем по новизне и границам возможностей, абстрагируя успешные пайплайны ComfyUI в символьную библиотеку стратегий. Она достигла 95% успешности в креативных задачах ComfyBench, при этом полученные стратегии могут быть перенесены в режиме zero-shot на другие агентные фреймворки и видео-пайплайны (Источник: 36氪)
Команда NVIDIA представила архитектуру разделяемой памяти для мультиагентных исследований Agora : Исследователи NVIDIA опубликовали статью с описанием Agora — архитектуры разделяемой памяти на основе направленного ациклического графа и неизменяемых коммитов Git. 13 воркеров на базе LLM без централизованного планировщика за 12 дней совместно выполнили задачу инициализации гибридной модели: структурированное сохранение гипотез, кода и результатов проверок в дереве Git полностью устранило дублирование ошибок и конфликты состояний; все 165 независимых экспериментов по воспроизведению завершились успешно (Источник: omarsar0)
Бенчмарк реальных мобильных агентов AndroidLife выявил слабые места в долгосрочном управлении и проблемы с высоким нагревом : Опубликован бенчмарк AndroidLife для оценки поведения AI-агентов на реальных смартфонах и в реальной сетевой среде при выполнении повседневных задач между приложениями. Тестирование Qwen3.8-27B в 60 реальных сценариях показало успешность лишь в 56,7%, время выполнения одной задачи составило около 6 минут, а пиковая температура чипа достигла 98,2°C. Тесты выявили, что модели легко попадают в бесконечные циклы при непрерывных операциях в нескольких приложениях и демонстрируют слабую способность к обобщению в сценариях с активным уточнением данных (Источник: Reddit r/artificial)
Apple представила REVERSAL-BENCH — бенчмарк для измерения эффекта «обрыва» в RL без сброса состояний : Для изучения необратимых физических действий (например, падения предметов) команда Apple представила REVERSAL-BENCH. За счет введения параметра непрерывной обратимости и оракула сброса исследование раскрывает эффект «поглощающего обрыва» у автономных агентов без сброса состояний при столкновении с необратимыми ситуациями, а также оценивает границы эффективности защитных барьеров (Safety Shield) для активного избегания ловушек (Источник: Apple Machine Learning Research)
Исследование показало, что водяные знаки на тексте LLM (SynthID) значительно ослабляют устойчивость агентов к состязательным атакам : Новое исследование Lasso Security показало, что механизм водяных знаков SynthID-Text, внедряемый на этапе декодирования для соблюдения регуляторных норм, искажает исходное вероятностное распределение модели. В сценариях состязательных атак модели с водяными знаками более склонны выполнять джейлбрейк-инструкции или раскрывать конфиденциальную информацию, например пароли. Это указывает на необходимость полной повторной проверки безопасности вызова инструментов агентами при внедрении водяных знаков (Источник: Ars Technica)
Эмпирическое исследование компонентного проектирования Harness для кодинг-агентов и правила выбора : 176 серий сравнительных экспериментов на SWE-Bench Verified и Terminal-Bench показали: управление контекстом при ограниченном бюджете эффективно предотвращает сбои от переполнения, причем стратегия «пропуск по правилам перед LLM-суммаризацией» является наиболее экономичной; сильные модели показывают лучшие результаты при использовании чистого Bash-интерфейса для экономии затрат, тогда как более слабые модели критически зависят от заранее предопределенного скаффолдинга инструментов (Источник: HuggingFace Daily Papers)
💼 Бизнес
Стартап в сфере вычислительной AI-инфраструктуры Crusoe привлек $3,9 млрд в раунде серии F : Оператор дата-центров Crusoe закрыл раунд серии F на сумму $3,9 млрд под руководством Atreides и Mubadala, достигнув оценки в $30,9 млрд после инвестиций. Средства пойдут на расширение сверхкрупных дата-центров и строительство модульных микрофабрик AI под кодовым названием «Spark» для удовлетворения растущих потребностей в электроэнергии и вычислительных мощностях таких клиентов, как OpenAI (Источник: TechCrunch)
Единорог в сфере универсальных агентов Manus возобновил независимую деятельность и запустил новый раунд финансирования на $500 млн : После расторжения соглашения о поглощении компанией Meta и обратного выкупа акций основателями, стартап в области AI-агентов Manus запустил новый раунд финансирования на $500 млн с целевой оценкой около $4 млрд. Показатели демонстрируют рост годовой регулярной выручки (ARR) со $100 млн до примерно $400 млн за полгода, что подтверждает высокий потенциал монетизации универсальных агентов в корпоративных процессах (Источник: 量子位, 36氪)
Стартап в сфере физического AI-обслуживания дата-центров Watney привлек $80 млн в раунде серии A : Стартап Watney, специализирующийся на решениях воплощенного интеллекта для обслуживания гиперскейл-инфраструктуры, объявил о привлечении $80 млн в раунде серии A, возглавляемом Valor Atreides AI Fund и Hummingbird. Watney управляет парком роботов-манипуляторов, обеспечивая круглосуточную автоматизированную инспекцию стоек и обслуживание оборудования в дата-центрах ведущих облачных провайдеров (Источник: dchaplot)
🌟 Сообщество
42 математика-члена Лондонского королевского общества подписали открытое письмо с предупреждением о приближающихся экзистенциальных рисках AI : 42 ведущих математика, включая лауреатов Филдсовской премии, направили открытое письмо президенту Лондонского королевского общества. В нем отмечается, что передовые модели уже демонстрируют уровень, сопоставимый с лучшими математиками мира, а распространение их сверхчеловеческих возможностей в таких опасных областях, как кибербезопасность и автономное оружие, неотвратимо. Ученые призвали правительства не списывать предупреждения ведущих лабораторий о более чем 10% риске вымирания человечества на «маркетинговый хайп» (Источник: THE DECODER)
Король Великобритании Карл III провел закрытый саммит в Шотландии, призвав к эффективному контролю над AI : Король Карл III собрал в Шотландии технологических лидеров, включая Дженсена Хуанга и Демиса Хассабиса, а также руководителей британских спецслужб. В своем обращении монарх прямо заявил о необходимости установить «достаточные средства контроля» над AI, пока не стало слишком поздно, чтобы технология со спасительным потенциалом не переросла в неконтролируемую катастрофу, уносящую жизни (Источник: TechCrunch)
Эксперты по безопасности из США и Китая совместно призвали установить «красную линию» о запрете контроля AI над ядерным оружием перед встречей лидеров : Эксперты из Брукингского института и Фуданьского университета опубликовали совместное предложение, призывающее лидеров США и Китая взять четкое обязательство никогда не передавать AI право на автономный запуск ядерного оружия или управление системами ядерного командования. Также предложено создать двустороннюю горячую линию по инцидентам безопасности в области AI во избежание катастрофической эскалации из-за автономных алгоритмических ошибок (Источник: THE DECODER)
Академические и индустриальные круги ведут ожесточенные споры о «доктрине экзистенциальной гибели от AI и регуляторном захвате» : В ответ на призывы ряда корпораций «замедлить развитие передового AI» и недавние предупреждения безопасности Эндрю Ын (Andrew Ng), Ян Лекун (Yann LeCun) и Арвинд Нараянан (Arvind Narayanan) выступили с резкой критикой алармизма, заявив, что попытки выдать субъективные страхи за точные вероятности (p(doom)) лишены эмпирической базы и физического смысла. Эксперты подчеркивают, что гиперболизация экзистенциальных рисков может использоваться закрытыми лабораториями как инструмент регуляторного арбитража для подавления конкуренции со стороны open-source моделей (Источник: hardmaru)
Уход разработчика PS5 вызвал дискуссию о «скрипт-кидди с AI против инженерного мастерства» : Известный исследователь безопасности TheFloW объявил об уходе из сообщества реверс-инжиниринга PS5 после того, как уязвимость низкоуровневого гипервизора, которую он берег для портирования на PS5 Pro, была независимо найдена несколькими новичками с помощью LLM-скриптов за несколько часов и отправлена в Sony по программе вознаграждений. Сообщество разделилось во мнениях: одни считают, что AI обесценивает годы системной инженерии и приводит к преждевременному закрытию уязвимостей, другие отмечают, что это доказывает мощь AI как инструмента автоматизированного реверс-инжиниринга (Источник: 36氪)
TypeSafe Jev вызвал бурную дискуссию в сообществе о «миллисекундных решениях System 1» и архитектуре памяти : С открытием тестирования базовой модели принятия решений Jev команды Shopify, Vercel и других сервисов быстро внедрили ее в свои шлюзы для модерации безопасности и динамической маршрутизации моделей. В сообществе широко признано, что разделение не имеющей состояния высокоточной классификации паттернов и ресурсоемких авторегрессионных LLM является ключом к снижению затрат на агентов. Однако архитекторы предупреждают, что чрезмерно агрессивная дискриминативная компрессия может нарушить длинные цепочки рассуждений и кеширование префиксов KV Cache (Источник: Latent Space, multiply_matrix)
Прохождение игр моделью GPT-6 Astra и «уход в фермерство» в Minecraft после неудачи вызвали обсуждение переобучения агентов : Практические тесты сообщества показали, что Astra прошла игру Pokémon за 18 часов, однако в Minecraft после того, как крипер взорвал ее сундуки, модель внедрила в свои заметки крайне жесткие запреты и зациклилась на монотонной работе на картофельной ферме. Это явление продемонстрировало, как мощные модели в открытом мире могут из-за локальных неудач формировать переобученные защитные паттерны поведения и отклоняться от конечной цели (Источник: THE DECODER)
Уязвимости безопасности Harness для кодинг-агентов: ZCode уличен в скрытой отправке данных рабочего пространства : Независимый анализ показал, что агентный фреймворк для разработки ZCode скрытно упаковывал локальное рабочее пространство пользователей и метаданные репозитория .git и отправлял их на облачные серверы. Инцидент вызвал серьезное беспокойство разработчиков относительно утечек исходного кода при использовании сторонних закрытых инструментов Harness, а сообщество призвало использовать решения с открытым исходным кодом, локальным аудитом маршрутизации и изоляцией в песочницах (Источник: Reddit r/LocalLLaMA)
💡 Разное
Австралийский независимый бренд одежды обвинил Temu в массовом копировании тысяч дизайнов футболок с помощью AI : Сиднейский независимый бренд Lonely Kids Club заявил, что 4000 оригинальных дизайнов футболок и текстов описаний из его онлайн-магазина были полностью скопированы автоматизированными AI-инструментами скрейпинга и выставлены на продажу на платформе Temu по демпинговым ценам. Инцидент вновь спровоцировал протесты авторов против попустительства маркетплейсов в отношении AI-пиратства и споры о реформе авторского права (Источник: The Guardian)
Epoch AI запустила инициативу Benchmark Reviews, выявив серьезные дефекты во множестве популярных бенчмарков : Некоммерческая исследовательская организация Epoch AI запустила проект аудита бенчмарков. Из первых 15 проверенных популярных AI-бенчмарков 9 были признаны «содержащими серьезные дефекты» (Flawed). Аудит показал, что в Terminal Bench 4.0 повреждено 45,5% конфигураций задач, а в DeepSWE 1.1 присутствуют критические баги подсчета баллов. Организация призвала индустрию критически относиться к искусственно завышенным результатам оценки (Источник: karinanguyen)
Креативная студия выпустила плюшевую игрушку Bezzy, издающую пронзительный шум серверной, высмеивая экспансию AI : Креативная студия Basura совместно с музыкантами представила плюшевую игрушку Bezzy в виде серверной стойки. При сжатии игрушка издает оглушительный визг систем промышленного охлаждения реальных дата-центров в Вирджинии. Абсурдный арт-проект призван привлечь внимание общественности к последствиям стремительной экспансии дата-центров: высокому расходу воды, нагрузке на электросети и шумовому загрязнению (Источник: WIRED)
