Видимо, ты пытаешься решить именно юридическую проблему — как управляющий автомобилем ИИ мог бы стать участником судебного разбирательства.
Но пока не решена практическая проблема — ИИ должен научиться выходить из проблемных ситуаций на дороге (предотвращать ДТП) на порядок лучше людей — так что сперва придётся решать её (ну или одновременно с юридической, но не позже).

Если "сложность — распознать" (как высказался Pzz), то проблема может быть либо:
a) в количестве/качестве наборов исходных данных для обучения, либо
б) в плохом качестве разметке этих наборов, либо
в) в недостатке вычислительных мощностей/времени уже при работе инференса:
т.к. ситуация на дороге кардинально меняется за малые доли секунды, и нужно за секунду успевать анализировать по многу кадров (или отличий между соседними), причём потенциально чем больше кадров выдают камеры/сенсоры — тем точнее может быть динамическая "картина" происходящего.

А и Б легко решить, если привлечь побольше людей. Но вот В — уже сложнее (дороже каждый экземпляр ИИ-автопилота, а не разовые затраты на весь проект.)

Разбитие единого процесса принятия решения (несколько последних "кадров" с сенсоров -> команды управления движением автомобиля) на этапы (типа выражения всего на спецязыке и дальнейшей его "интерпретации") либо заметно замедлит общее быстродействие, либо заметно удорожает аппаратные средства! А если проблема быстродействия/цены и так на одном из первых мест — предложение явно не к месту.
Типичные "языковые" решения (и LLM, и Verilog, и все ЯП) работают секунды и даже минуты, вряд ли получится выдавать что-то полезное за малые доли секунд.

Реального прорыва/"революции" гораздо быстрее можно было бы достичь, если полностью запретить людям участвовать в управлении транспортом.
Компьютерным автопилотам (даже вообще без ИИ):
1) гораздо проще ЗАРАНЕЕ сообщить ВСЕМ близконаходящимся участникам движения о своих намерениях (по специальным радиоканалам и т.п.)
2) в случае конфликта намерений (кто первый должен проехать место потенциального столкновения и т.п.) обязательно СНАЧАЛА принимается СОГЛАСОВАННОЕ решение (неважно как — путь хоть независимая третья сторона это решение принимает), и только затем решение РЕАЛИЗУЕТСЯ (скорости вычислений и коммуникаций должно хватить!)
Прямо сейчас это реализовать, конечно, нереально, но вот когда ВСЕ автомобили (или типа 80-99%) уже окажутся оборудованы автопилотами (главное — системами управления всеми функциями движения без участия водителя, неважно насколько "интеллектуальными") — возможность уже появится.