Экспертным системам нужна верификация

Начинать разработку такого базиса нужно с классификации решений, которые могут применяться в цифровой медицине (речь идет о математических методах, включая методы искусственного интеллекта). На втором этапе должна быть построена система стандартов и нормативных правовых документов, определяющая требования к используемым программным средствам, методики подтверждения соответствия алгоритмов и математических методов тем медицинским задачам, для решения которых они предназначены. В частности, мы должны понимать, какой объем медицинских данных должен быть обработан экспертной системой, какая выборка данных позволяет получить наиболее правильное решение той или иной медицинской проблемы.

 

Но самое главное -- четко указать в нормативных документах, что любая система для сферы здравоохранения, применяющая цифровые методы обработки больших медицинских данных, включая системы искусственного интеллекта и системы интеллектуальной поддержки принятия врачебных решений (СППВР), должна работать исключительно внутри медицинских организаций. Это необходимо для того, чтобы не допустить применения подобных интеллектуальных систем компаниями, не имеющими лицензий на оказание медицинской помощи.

 

Ответственность за соблюдение порядка применения СППВР и экспертных систем предлагаем возложить на главных врачей, обязав их следить за тем, чтобы каждый доктор, прибегающий к автоматически сгенерированным рекомендациям, понимал, как они могут быть использованы в лечении того или иного пациента. 

 

В условиях, когда тема искусственного интеллекта набирает популярность среди разработчиков, и многие занимаются глубоким обучением нейронных сетей, необходима проверка и оценка адекватности математического метода. Для этого в новый нормативный правовой документ необходимо включить требование об обязательных клинических испытаниях всех СППВР с последующей регистрацией в Росздравнадзоре как технологии или как медицинского изделия. А это значит, что предстоит строить базис для клинических испытаний, выбирать средства верификации этих систем, а также контроля непротиворечивости предлагаемых ими решений.