Искусственный интеллект (ИИ) – главная инновация XXI века, обладающая колоссальным значением для общества. Это сквозная технология, проникающая в каждый аспект нашей жизни. Уже сегодня, даже если мы этого не замечаем, ИИ повсюду среди нас: смартфоны умеют распознавать изображения с камеры, виртуальные ассистенты понимают наши команды и умеют на них отвечать, а решения для автоматического синхронного перевода могут сделать общение на разных языках совершенно свободным. Отельная тема – ИИ в медицине. Но сможет ли нейросеть заменить опыт и знания врача, и этично ли это? Эти и другие вопрос обсудили в рамках круглых столов, в которых приняли участие врачи и ученые Сеченовского Университета, IT-специалисты, представители бизнеса.
Первым по значимости стал вопрос безопасности. Участники дискуссий выясняли, насколько можно привлекать нейросеть к работе с реальными пациентами. В рамках круглого стола в Московском центре инновационных технологий в здравоохранении (Медтехе) участники сошлись во мнении, что нужна четкая этическая оценка всего процесса – от разработки систем до их внедрения в медицину.
Первым по значимости стал вопрос безопасности. Участники дискуссий выясняли, насколько можно привлекать нейросеть к работе с реальными пациентами. В рамках круглого стола в Московском центре инновационных технологий в здравоохранении (Медтехе) участники сошлись во мнении, что нужна четкая этическая оценка всего процесса – от разработки систем до их внедрения в медицину.
«Несмотря на безграничный потенциал использования нейросетей, невозможно полностью заменить специалистов, потому что принятие решений – ответственность человека. И ни один компьютер или система не могут быть оценены как субъекты правовой и этической оценки действий, а также их последствий», – прокомментировал Вячеслав Шуленин, генеральный директор Медтеха.
В то же время все сошлись во мнении, что что искусственный интеллект значительно ускоряет темпы медицинских прорывов. К примеру, в Медтехе нейросети проанализировали уже более 10 млн лучевых исследований. Точность работы алгоритма – 65%. Технологии ускоряют получение результатов для пациентов и экономят время врачей при описании медицинских изображений.
Второй аспект, который обсудили в рамках дискуссий, касался профессиональных компетенций врача, работающего в нейросети, — прежде всего, в онкологии и радиологии. Участники согласились, что искусственный интеллект не сможет полностью заменить доктора, за исключением рутинных сфер его деятельности. Причина проста: машинное обучение – процесс пока закрытый даже для разработчиков, потому результаты работы ИИ обязательно нужно проверять.
Второй аспект, который обсудили в рамках дискуссий, касался профессиональных компетенций врача, работающего в нейросети, — прежде всего, в онкологии и радиологии. Участники согласились, что искусственный интеллект не сможет полностью заменить доктора, за исключением рутинных сфер его деятельности. Причина проста: машинное обучение – процесс пока закрытый даже для разработчиков, потому результаты работы ИИ обязательно нужно проверять.
«То, что мы сегодня называем искусственным интеллектом – скорее очень быстрые и умные «калькуляторы», которые выполняют функции сбора, подсчета и анализа данных. Интеллект – это свойство абстрактного познания, которым математические модели не обладают, поэтому в ближайшем обозримом будущем искусственный интеллект в медицине будет выполнять роль ассистента-помощника, но врача не заменит», – комментирует Руслан Парчиев, CEO и основатель стартапа Medical Neuronets.
Третий вопрос в ходе обсуждений касался медицинских ошибок в клинических случаях, где участвовал искусственный интеллект, а также перспектив судебно-медицинских разбирательств на их фоне. По мнению завотделением, врача-патологоанатома Московского клинического научного центра имени А. С. Логинова Николая Карнаухова, даже вспомогательное использование искусственного интеллекта во врачебной практике может нести угрозу формирования «слепой веры» в искусственный интеллект, которую рано или поздно обретает врач. По его мнению, в конечном счете врач начнет надеяться на него больше, чем на себя.
Подводя итоги, участники круглых столов решили, что особое внимание стоит уделить определению степени моральной ответственности врача и разработчика за внедряемый продукт. Кроме того, важно информировать общество о возможностях нейросетей и рассказывать о рисках, которые они несут.
Подводя итоги, участники круглых столов решили, что особое внимание стоит уделить определению степени моральной ответственности врача и разработчика за внедряемый продукт. Кроме того, важно информировать общество о возможностях нейросетей и рассказывать о рисках, которые они несут.
«Многие проблемы, которые могут потенциально возникать при использовании продуктов с элементами ИИ, можно исключить еще на стадии планирования разработки. Более того, у продуктов с искусственным интеллектом есть большой потенциал для создания решений ряда проблем, с которыми сегодня сталкивается система здравоохранения при работе с «естественным интеллектом», – считает Алла Панченко, руководитель партнерских проектов Центра индустриальных технологий и предпринимательства Сеченовского Университета.
Более того, у Сеченовского Университета, уже есть удачный опыт инновационных разработок с применением искусственного интеллекта. К примеру, ведущие специалисты из Института компьютерных наук и математического моделирования совместно с кардиологами из Института персонализированной медицины создали компьютерную программу, которая позволяет оценить необходимость установки стентов в коронарные сосуды со стенозами (сужение сосудов с ограничением или полным прекращением кровотока). Такой подход позволяет избежать инвазивных измерений внутри тела пациента, использования дорогостоящих датчиков и вспомогательных сосудорасширяющих препаратов. Точность оценки при этом остается высокой.
Источник
Источник
