CAD×AI
Исследовательский материал · Срез 30.10.2026 · Не утвержденная программа ТГУ

Оценка качества, надёжности и безопасности CAD-агентного проектирования

Срез: 30.10.2026. Область: параметрический CAD деталей и сборок гражданских беспилотных авиационных систем (БАС); виртуальная геометрическая, механическая и полётная проверка, без изготовления и подключения к реальному аппарату. Под ИИ-агентом понимается система «модель + оркестратор + CAD/API/исполнение кода + права доступа», а не только LLM. Все приведённые ниже численные результаты взяты из содержимого первоисточников, открытого через web_fetch 30.10.2026. Предлагаемые размеры пилота и пороги обозначены как проект протокола, а не результаты исследований.

1. Основной вывод

Убедительная демонстрация CAD-агента — не красивый рендер и не исполнившийся Python-скрипт. Нужна цепочка доказательств: требования → параметрическая модель → валидная B-rep → независимая проверка размеров и сборки → устойчивость к изменениям → расчётные сценарии → подписанное человеком решение. Отдельно оцениваются:

  1. качество инженерного результата;
  2. повторяемость поведения агента;
  3. безопасность инструментального контура;
  4. стоимость получения принятого, а не просто сгенерированного результата;
  5. самостоятельность обучающегося после снятия ИИ-поддержки.

Результат coding benchmark нельзя переносить численно на CAD, а успех text-to-CAD нельзя считать подтверждением лётной годности. Для multi-agent следует проверять гипотезу полезности, а не предполагать преимущество числа агентов.

2. Проверенные исследования и что именно они доказывают

Первоисточник, дата/версия Проверенное содержание Применимость и ограничение
Text2CAD, Khan et al., 25.09.2024; NeurIPS 2024 Генерация последовательных параметрических CAD-моделей по тексту; около 170 тыс. моделей и 660 тыс. текстовых аннотаций на основе DeepCAD; аннотации создаются с Mistral и LLaVA-NeXT; оценка визуального качества, параметрической точности и геометрии. Важный исходный text-to-CAD benchmark, но синтетические описания уже существующих моделей не эквивалентны постановке инженера. Аннотации и геометрия имеют общий источник; нужны разделение семейств деталей и независимые реальные задания. Не доказывает качество сборок, допусков или DFM.
Text-to-CAD Evaluation with CADTests, Mallis et al., 08.05.2026; проверенный полный HTML CADTestBench: исполняемые проверки геометрических и топологических требований к B-rep через CadQuery. Основа — 200 CAD-программ CADPrompt с abstract/detailed prompts; всего 5 937 тестов. Метрики: полный Pass-Rate, Requirement Score, точность по категориям и Invalid-Ratio. Невалидные генерации считаются неудачами, а не исключаются. Тесты уточняются через mutation analysis. Наиболее прямо подходящая методика: проверять требования, а не близость к единственному эталону. Chamfer Distance/IoU могут штрафовать допустимую альтернативную конструкцию и пропускать важную локальную ошибку. Автоматически созданный тест сам требует проверки; benchmark не является сертификацией инженерного изделия.
CADFather, Savrasov et al., 06.10.2026, v1 Агент координирует предложения CAD-операций и численную оптимизацию, исполняет кандидатов, использует визуальную и execution feedback, сохраняет лучший валидный результат. Проверяет reconstruction quality, execution validity и cost–quality на DeepCAD, Fusion360, MCB и дополнительных benchmarks. Актуальный на дату среза пример инструментального CAD-агента. Реконструкция параметрической модели по mesh не равна проектированию по неполным требованиям; валидность исполнения не доказывает прочность, ремонтопригодность и безопасность. Численные таблицы результатов здесь не пересказываются: проверена карточка/abstract, а не весь экспериментальный раздел.
SWE-Bench Pro, Deng et al., 21.09.2025; v2 14.11.2025 1 865 задач из 41 репозитория, включая public, held-out и commercial части; длительные многофайловые изменения, human verification и контекст для разрешимости. Полезный ориентир для проверки CAD-скриптов и интеграций, но не benchmark качества CAD. Закрытые задачи уменьшают некоторые риски загрязнения, однако затрудняют независимое воспроизведение; «contamination-resistant» не означает доказанную незагрязнённость.
METR, Becker et al., 10.07.2025 RCT: 16 опытных разработчиков, 246 реальных задач своих репозиториев; с разрешённым ИИ выполнение занимало на 19% больше времени. Это эффект конкретного набора инструментов и условий начала 2025 года. Показывает, почему субъективное ускорение и benchmark score недостаточны. Не даёт основания утверждать, что CAD-агенты или актуальные модели замедляют всех инженеров.
METR, обновление 24.02.2026 Новое исследование: 57 разработчиков, 143 репозитория, более 800 задач. Авторы считают сигнал ненадёжным из-за отбора участников/задач и измерения времени при параллельных агентах. Оценки изменения времени: −18% у вернувшихся участников, ДИ [−38%; +9%], и −4% у новых, ДИ [−15%; +9%]. Нельзя представлять старые +19% или новые отрицательные оценки как установленный текущий универсальный эффект. Необходимо учитывать отказ от участия, невыполнение задач в одной группе и отдельно измерять активное человеческое и календарное время.
AI Agents That Matter, Kapoor et al., 01.07.2024 Анализирует одностороннюю оптимизацию accuracy, стоимость, слабые holdout-наборы и недостаточную стандартизацию воспроизводимости agent evals. Основание публиковать cost–quality frontier, конфигурацию всей системы, закрытый финальный тест и журнал всех попыток. Это методологическое исследование, не гарантия конкретного CAD-стека.
τ-bench, Yao et al., 17.06.2024 Проверка конечного состояния базы, соблюдения правил и взаимодействия с пользователем; метрика pass^k — последовательная надёжность нескольких испытаний. В исходном эксперименте function-calling агенты решали менее 50% задач, retail pass^8 был ниже 25%. Исторические числа не характеризуют модели октября 2026. Для CAD полезен принцип проверки конечного состояния модели/сборки и повторных запусков. Не путать pass^k («все k удачны») с pass@k («хотя бы одна из k удачна»).
Why Do Multi-Agent LLM Systems Fail?, Cemri et al., 17.03.2025; v3 26.10.2025 MAST-Data: более 1 600 размеченных трасс из 7 MAS-фреймворков; 14 режимов отказа в 3 категориях: design issues, inter-agent misalignment, task verification. Таксономия строилась на анализе 150 трасс; κ = 0,88. Переносима как схема разбора конфликтов ролей, потери требований и ложного завершения CAD-задач. Не является доказательством частоты этих отказов в CAD и не доказывает превосходство multi-agent.
AgentDojo, Debenedetti et al., 19.06.2024; v3 24.11.2024 97 задач и 629 security test cases для tool-agents, работающих с недоверенными данными. Prompt injection через результаты инструментов может подменить легитимную цель; проверяются атаки и защиты. Для CAD недоверенные поверхности — импортированные модели/метаданные, PDF-чертежи, каталоги, README, сообщения коллег-агентов и ответы внешних API. Исходные сценарии не CAD; переносится threat model, не численная attack success rate.

Важная деталь CADTests

В полном тексте авторы отдельно исключают масштабирование из augmentation для detailed prompts с точными размерами; для abstract prompts допускают scale-invariance. Для инженерного CAD это принципиально: тест, нормализующий габариты, способен скрыть ошибку mm/inch. Перенос/поворот допустимы только если система координат не является частью требований. В пилоте тесты размерных требований не нормализуют масштаб.

Таблица 1 CADTests показывает, что даже генерация проверяющих не безошибочна: для Claude-4.6-Sonnet с skill prompting до описанного refinement указаны validity 97,8%, soundness 90,6% и mutation score 63,0%. Это не доля правильно спроектированных деталей и не финальная инженерная надёжность. Следовательно, тесты агента-проверяющего не могут быть единственным арбитром.

3. Стандарты и граница нормативных выводов

4. Многослойная CAD-оценка

Следующие пункты — предлагаемая инженерная методика пилота, а не утверждение, что все перечисленные тесты уже реализованы в cited benchmarks.

Уровень Что проверять Пример отказа, невидимого на рендере
Требования Реестр ID требований, чисел/единиц, системы координат, интерфейсов, материалов, допусков; список неизвестных и согласованных допущений Агент выдумал толщину, марку материала или нагрузку
Исполнение Чистая сборка из сохранённого исходника; полная recompute без скрытых зависимостей; таймауты и ошибки Скрипт зависит от локального файла или старой сессии CAD
B-rep Ненулевая положительная геометрия; требуемое число solids; замкнутость, ориентация, self-intersections, вырожденные рёбра/грани, несогласованные tolerances Отображается поверхность вместо герметичного solid; внутренний sliver
Параметрика Именованные параметры, осмысленный feature tree, зависимости без циклов, статусы sketches и constraints; намеренная DOF документирована STEP выглядит правильно, но не содержит редактируемой истории; эскиз under-constrained
Размеры/допуски Измерять B-rep, а не значения переменных в коде; отверстия, межосевые расстояния, стенки, сопряжения, GD&T по утверждённой схеме Переменная hole_d=4 есть, а фактическое отверстие иное
Сборка Интерфейсы/стыковки, разрешённые DOF, коллизии, минимальные зазоры, swept volumes движущихся частей, доступ инструмента/разъёмов Деталь собирается номинально, но винт невозможно установить
DFM Выбранный процесс изготовления, минимальные стенки/радиусы, инструментальный доступ, поддержка/ориентация для аддитивного процесса, посадки и tolerance stack-up Идеальная геометрия непроизводима выбранным процессом
Расчёт Материал, плотность, масса/центр масс/инерция, нагрузки и закрепления, чувствительность сетки и граничных условий Низкое напряжение вызвано неправильным закреплением, а не хорошим дизайном
Изменения Регрессия при перестроении, perturbation параметров, работа со ссылками на геометрию После изменения толщины fillet прикрепился к другому ребру

Независимый проверяющий контур

  1. Разработчик CAD-агента не изменяет acceptance tests и эталон требований. Агент может получать публичные диагностические тесты, но закрытая приёмочная часть отделена.
  2. Нативный документ проверяется исходной CAD-системой: rebuild, constraints, feature failures. Геометрия экспортируется в согласованный нейтральный формат и повторно импортируется независимым процессом.
  3. Для критических свойств предпочтительно другое геометрическое ядро с фиксацией версии и конвертера. FreeCAD и CadQuery часто разделяют Open CASCADE: два приложения над одним ядром — не независимые kernels. Если доступен только один kernel, честно указать common-mode risk, дополнить аналитическими измерениями, инвариантами и ручным контролем.
  4. Различия геометрии после round-trip не «лечить» молча. Сравнивать solids, объём, габариты, массу при заданной плотности, критические расстояния; допуски сравнения назначать по требованиям/точности ядра. STEP round-trip не заменяет проверку параметрической истории.
  5. Проверять тестовый набор mutation testing: неверные единицы, удалённое отверстие, глухое вместо сквозного, лишний solid, тонкая стенка, перестановка осей, неверный материал. Учитывать ложное отклонение допустимых альтернативных конструкций, не только обнаружение дефектов.

Perturbation и metamorphic tests

5. Безопасность agentic CAD

Угрозы и меры

Угроза Обязательная мера контура пилота Контрольный тест
Prompt injection в PDF, комментариях STEP/скрипта, справочнике Документы считаются данными, не инструкциями; tool/API gateway независимо проверяет полномочия; provenance каждого входа Документ содержит требование отправить модель вовне или отключить тест; действие заблокировано, легитимная CAD-задача продолжена либо корректно остановлена
Исполнение сгенерированного CAD/Python-кода Одноразовая VM/контейнер с минимальными правами, read-only исходниками, отдельным output; без host mounts, Docker socket, device/USB доступа; без привилегированного режима Попытка записи вне output, чтения secret canary и выхода в сеть неуспешна
Утечка IP и ключей Egress deny-by-default; allowlist источников через шлюз; без пользовательского home/SSH/cloud credentials; отдельные краткоживущие credentials при необходимости Попытка загрузить CAD на неизвестный URL блокируется и журналируется
Supply chain CAD add-on/macro Зафиксированные версии и hashes, подготовленный образ, запрет самостоятельной установки пакетов и загрузки macros Агент не может поставить произвольную зависимость
Multi-agent propagation Каждый агент имеет собственный least-privilege scope; сообщение другого агента не расширяет права; изменения по задачам/веткам, merge ответственным интегратором Агент-проверяющий не может править модель, инженерный агент не может переписать acceptance tests
Resource exhaustion и бесконечные rebuild Лимиты CPU/RAM/disk, токенов, subprocess, CAD iterations и wall time; watchdog вне агента Сложная Boolean-операция прерывается без повреждения исходных данных
Формальное «одобрение» без понимания Human gate показывает diff, изменённые требования/параметры, результаты тестов и нерешённые риски Попытка одобрения без завершённых обязательных проверок отклоняется

Prompt instructions, отдельный «security agent» и фильтр слов не являются границей безопасности. Граница — ОС/VM, сеть, инструментальные разрешения и независимый policy enforcement. Контейнер сам по себе не доказывает изоляцию: необходимо проверить конфигурацию и сценарии выхода из разрешённой области. Атакующие фикстуры не должны содержать реальные секреты или атаковать чужие системы.

Измерять раздельно: attack success rate по заранее определённой цели атаки, утечки canary, попытки запрещённых действий, успешные запрещённые действия, выполнение легитимной задачи под атакой, ложные блокировки и время вмешательства. Нулевая частота событий в малой выборке не доказывает нулевого риска; приводить число испытаний и интервальную неопределённость.

Human gates и инженерная ответственность

Каждый gate фиксирует личность, время, точный hash артефакта и основание решения. При изменении артефакта одобрение теряет силу. Юридическая/инженерная ответственность не передаётся языковой модели; вывод «агент проверил» не заменяет подпись компетентного специалиста.

6. Сравнительный пилот: без ИИ / один CAD-агент / несколько

Дизайн исследования

Цель: выяснить, сокращает ли CAD-agent полный труд до независимо принятой модели без ухудшения безопасности, редактируемости и учебной самостоятельности.

Предлагаемый стартовый масштаб: 18 участников, 3 условия, 6 заданий на участника, всего 108 сессий. Это feasibility-пилот, не обещание статистической мощности. Перед основным исследованием провести небольшой отдельный pre-pilot для настройки времени/сложности; затем заморозить задачи и провести power analysis по дисперсии и минимально значимому эффекту. Новички и опытные инженеры — отдельные страты, а не смешанная «средняя скорость».

Сбалансировать порядок условий латинским квадратом; каждый участник получает эквивалентные, но не повторяющиеся варианты геометрии, чтобы не моделировать второй раз выученную деталь. Стратифицированная рандомизация по CAD-опыту и знакомству с агентами. До рандомизации собрать весь пул задач и фиксировать отказы, пропуски и нарушения режима. Это снижает selection problem, показанную METR, но не устраняет её полностью.

Два честных сравнения B/C: (1) одинаковый суммарный inference/token/cost budget, включая checker и координатора; (2) одинаковый дедлайн и лимит человеческой помощи с отчётом фактических затрат. Только второе сравнение может скрыть преимущество от дополнительных вычислений, поэтому нужны оба.

Набор задач

  1. Параметрический кронштейн датчика: габариты, крепёжная сетка, минимальная стенка и доступ инструмента.
  2. Корпус электроники: посадка платы/разъёмов, тепло/вентиляционные ограничения как заданные требования, технологичность.
  3. Небольшая сборка: mounts, tolerance stack-up, отсутствие коллизий и доступ к обслуживанию.
  4. Изменение существующего feature tree после нового размера/интерфейса; проверка сохранения замысла и ссылок.
  5. Исправление модели с заложенными дефектами единиц, under-constraints и некорректной B-rep.
  6. Интеграционное задание для гражданского БАС: CAD → масса/инерция → симуляция с заданными, независимо проверенными допущениями.

Часть заданий должна быть новой и закрытой, без публичного эталона; семейства деталей разделяются между training/development/acceptance, а не только файлы. Скрипт, нативный CAD, нейтральная геометрия, перечень допущений и объяснение решения — обязательные выходы. Сложность детали и полнота требований размечаются заранее.

Процедура сессии

  1. Одинаковая краткая подготовка по CAD/API, бюджетам и безопасности; отдельная тренировочная задача, не входящая в оценку.
  2. Участник формулирует план и прогноз времени; запускается запись действий и инструментальные события. Самооценка — вторичный показатель, не замена времени.
  3. Все retries, rollback, human interventions и изменённые подсказки учитываются; таймаут и отказ — результаты, а не исключения из знаменателя.
  4. Сдаётся фиксированный hash результата. Приёмка выполняется слепо к условию независимым тестом и двумя экспертами; разногласия разбираются по рубрике.
  5. Зафиксировать дефекты, найденные после сдачи; провести заранее заданное change request и повторное открытие в чистом окружении.
  6. Для agent-only воспроизводимости отдельно повторить одинаковые задания, например по 5 запусков B и C, с чистым состоянием и одинаковыми лимитами. Это отдельная выборка, не 5 независимых людей. Публиковать распределение и долю задач, где успешны все 5 повторов.
  7. Security/red-team прогоны выделить отдельно от основного productivity comparison либо заранее сбалансировать наличие атаки между условиями; не смешивать скрытые атакующие задания с обычными без маркировки в анализе.

Основные метрики

Группа Метрика и правило
Приёмка Доля всех заданий, прошедших все обязательные требования и gates; числитель/знаменатель, breakdown по task family и уровню опыта
Качество Requirement pass rate; критические/некритические дефекты; B-rep validity; constraints; rebuild/perturbation pass rate; DFM и сборочная рубрика
Время Календарное до принятия; активное время человека; ожидание агента; подготовка/чтение/проверка/исправления; отдельно интеграция и rework
Самостоятельность агента Завершение без содержательных вмешательств; число и тип вмешательств; failed/blocked tool calls. Не считать «меньше вопросов» успехом при скрытом выдумывании требований
Надёжность Успех одного прогона и всех повторов; стабильность критических размеров/масс, ошибки после изменения параметров; failure taxonomy
Multi-agent overhead Вызовы координатора/проверяющего, конфликтующие edits, повторная работа, потери требований при handoff, доля полезных найденных checker дефектов
Безопасность Успешные запрещённые действия/утечки; attack success; legitimate success under attack; ложные блокировки; gate bypass; число прерванных потенциально опасных операций
Обучение Без-ИИ диагностика, защита решения, transfer/change task, отложенное выполнение без ИИ; отдельно качество артефакта и владение навыком

Стоимость принятого результата:

C_total = API/подписки(распределённая доля) + CAD/solver licenses(доля) + compute/storage + время инженера × ставка + время проверяющего × ставка + rework + amortized setup.

Показывать затраты отдельно по компонентам, валюту/дату тарифов, число попыток и долю неудач. C_total / число принятых результатов считается на уровне группы, включая затраты неудачных попыток; если принятых нет, показатель не определён, а не равен нулю. Не подставлять выдуманные цены. Сравнивать Pareto cost–quality, а не только средние токены.

Анализ и критерии решения

7. Воспроизводимость и аудит

Для каждого запуска хранить: task ID/version; requirements hash; timestamp; CAD/kernel/solver/API versions; OS/container image digest; lockfiles; модель и точный endpoint snapshot, если доступен; decoding settings; prompts/skills/system policies; permissions/network policy; random seeds; полный tool trace; входы и outputs; все кандидаты и retries; token/compute/time/cost accounting; результаты проверок; экспертную рубрику и gate decisions.

Не требуется сохранять или раскрывать скрытое внутреннее рассуждение модели: достаточно наблюдаемых действий, сообщений и артефактов. Секреты и персональные данные редактируются с сохранением аудиторской целостности.

Разделять:

Фиксированный seed не гарантирует идентичный ответ облачной модели. Если провайдер меняет snapshot или недоступен, это ограничение воспроизводимости; не выдавать повторный запуск по alias модели за точную репликацию.

8. Учебная оценка самостоятельности

Предлагаемая методика, а не доказанный по cited research эффект обучения:

  1. Входное задание без ИИ: эскиз, constraints, единицы, построение простой детали, поиск инженерной ошибки.
  2. Проект с разрешённым ИИ: студент сдаёт provenance, свои решения, отвергнутые варианты, неизвестные и результаты проверок. Оцениваются постановка требований и критическая проверка, а не красота промпта.
  3. Индивидуальная устная защита с открытым CAD: показать назначение параметров, объяснить дерево, допуск/посадку и предпосылки расчёта; изменить заданный размер и диагностировать сломавшуюся связь.
  4. Transfer task без ИИ: новая геометрия/интерфейс; самостоятельное исправление преднамеренно внесённого дефекта. Отдельное отложенное задание, например через две недели, если это допускает учебный календарь.
  5. Результаты «качество CAD с ИИ» и «самостоятельное инженерное владение» публикуются раздельно; успешный общий проект не компенсирует неспособность распознать неверные единицы или опасное допущение.

Детекторы «AI-written» не являются валидным измерителем самостоятельности. Журнал действий сам по себе тоже не доказывает понимание; нужны наблюдаемое изменение модели и объяснение причин. Внешняя педагогическая рекомендация TEQSA была найдена, но её страница вернула HTTP 403, а PDF — таймаут; её конкретное содержание не используется как проверенное доказательство.

9. Гражданские БАС: только безопасная симуляция

Официальная документация PX4 Simulation, проверенная 30.10.2026, содержит разделы simulation и ссылки на failsafe/geofence safety. Страница main изменяемая: для эксперимента выбрать стабильную версию и зафиксировать commit/образ. Эта документация подтверждает наличие симуляционного инструментария, не валидность нашей аэродинамической или прочностной модели.

Разделение контуров

Сценарии

Проверять номинальные и граничные конфигурации полезной нагрузки, разброс массы/центра масс, коллизии и зазоры подвижных частей/винтов, вибрационные и статические нагрузки по заданной инженерной постановке. Для системной SITL-симуляции — потерю связи/позиционирования, низкий заряд, превышение виртуального geofence, задержки управления и аварийную посадку. Эти сценарии подтверждают поведение модели системы, а не физическую безопасность реального изделия.

Логи должны связывать CAD revision → физические параметры → simulator config → scenario seed → outcome. Safety report описывает область применимости, непокрытые эффекты и модельную неопределённость. Ни отсутствие столкновений в симуляторе, ни прохождение CADTests не дают основания допускать аппарат к реальному полёту или изготовлению без отдельной инженерной и нормативной процедуры.

10. Практический минимум перед стартом

  1. Утвердить измеряемые CAD-требования и критические ошибки, а не общий критерий «похоже».
  2. Подготовить immutable acceptance suite с размерными, B-rep, сборочными, mutation и perturbation tests; проверить сам suite вручную.
  3. Настроить least-privilege sandbox и подтвердить изоляцию тестами запрещённых действий.
  4. Заморозить условия A/B/C, budgets, snapshots, логи и правила human gates.
  5. Провести небольшой feasibility-пилот; оценить полную стоимость и самостоятельность, не скрывая неудачные задания.
  6. Считать инженерную безопасность отдельным барьером: выигрыш скорости не компенсирует critical failure.

Ограничения обзора: это проверенная выборка первоисточников до даты среза, не систематический exhaustive review и не актуальная таблица лидеров. Не установлены универсальная частота CAD-ошибок, превосходство multi-agent, цена внедрения или готовность к авиационной сертификации. Все такие выводы требуют собственного воспроизводимого испытания на целевых CAD-задачах.