Статьи

Искусственный интеллект (ИИ) часто сравнивают со светом в конце тоннеля, который, кажется, не имеет конца. Эта технология уже решает множество задач и со временем займет свое место среди других технологий, выполняя определённые функции.

Воробьёв Павел Андреевич, доктор медицинских наук, профессор Тверского государственного медицинского университета Минздрава России, председатель Правления Московского городского научного общества терапевтов (Тверь, Россия), на примере своей дистанционной клиники рассказывает о практике применения ИИ, его преимуществах, недостатках и перспективах развития в медицине.

Искусственный интеллект (ИИ) - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма), получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.  Такое определение существует в РФ. Вопрос в том, как ИИ интегрируется в процесс рационального использования лекарственных средств.

По определению ВОЗ, рациональное использование лекарственных средств (ЛС) – это применение, когда больные получают препараты в соответствии с клинической необходимостью, в дозах, отвечающих индивидуальным потребностям, на протяжении адекватного периода времени и с наименьшими затратами для себя и общества. Но здесь существуют и побочные явления, которые не упомянуты в определении ВОЗ. Очень сложно взвесить побочные явления и эффективность препаратов, ведь существует немало лекарств с множеством побочных эффектов, но только с их применением возможно излечение (например, при остром лейкозе) и довольно часто внимание на побочных явлениях не акцентируется, достаточно вспомнить аспирин, статины,  вакцину от COVID-19 , конечно, парацетамол. Кто принимает решение о рациональном использовании ЛС? Если вчера это был исключительно медицинский персонал и фармацевты в аптеке, то сегодня ситуация меняется, и половина решений по терапии принимается самим пациентом, и эта тенденция абсолютно очевидна.  

Дистанционная помощь в медицине становится все более популярной. Сегодня многие врачи консультируют пациентов по телефону без использования специальных платформ, что вызывает ряд проблем. Отсутствует защита персональных данных, системы обеспечения качества и возможности юридического регулирования таких консультаций. Также остается неизвестным, насколько правильно пациенты используют полученную информацию.  При этом дистанционная помощь остается высокоэффективной.  В нашей дистанционной клинике ответственного самолечения «Медицинское бюро Павла Воробьева» с 2020 года прошло уже более 9 тысяч больных. Причем мы только даем советы, не ставим диагнозы, не выписываем справки и рецепты. Среди примерно 6 тыс. больных с коронавирусной инфекцией - 20% это тяжелые пациенты, получающие кислород, большие дозы гормонов, иногда - трансфузию замороженной плазмы, получали рекомендации амбулаторно. Но главное – это применение прямых антикоагулянтов для остановки ДВС-синдрома с максимально ранних моментов заболевания: в нужных дозах (например, эликвис по 5 мг 2 раза в сутки), поскольку время полужизни для всех ПОАК 12 часов. Эффективность такой терапии – 0,3% летальности, при этом мы никого не госпитализировали. В нашей клиники дистанционного лечения ежедневно наблюдается от 40 до 150 больных и это не разовые консультации, а подписка, приобретенная на месяц или на год. Пациент не ждет месяцами приема специалиста и получает рекомендации сразу.

Консультант ежедневно контролирует течение болезни, иногда делая это несколько раз в день, как, например, в стационаре, включая использование бота. Это позволяет нам точно титровать дозы препаратов, что значительно снижает количество нежелательных явлений, так как врач сразу приходит на помощь со своим советом и нивелирует неприятные эффекты.

Конечно, вся наша терапия основана на лучших практиках: высокоинформативных научных статьях, клинических рекомендациях и официальных документах (инструкции, стандарты, порядки, утвержденные Минздравом). Часто источников информации много, и в них могут быть противоречия и даже исключения. Поэтому мы нередко видим возникновение конфликта между нашими рекомендациями и, например, инструкциями на лекарственные препараты. В таких случаях мы вынуждены специально объяснять пациентам, почему используем те или иные лекарственные средства офлейбл. Решение, конечно, остается за пациентом. Например, мы рекомендуем применять прямые антикоагулянты при беременности, где формально они противопоказаны.

Сегодня уже часть решений принимается искусственным интеллектом, и количество таких решений стремительно растет.  Поэтому субсидиарная модель, где врач и пациент равны, начинает расширяться и появляется новая модель AI - коммуникационно-субсидиарная, приходит искусственный разум, и все говорят, что будут решены все проблемы медицины. «Радужная» картинка применения ИИ в медицине выглядит следующим образом: «Все анализы будут вводиться в ИИ-систему, которая сама расскажет о болезни или предоставит диагноз на основе введённых данных. А завтра искусственный интеллект сможет прочитать весь код ДНК у каждого человека и сопоставить его с симптомами болезни. Врачу останется лишь наблюдать за процессом и контролировать результаты, как двум бабушкам, щёлкающим семечки на лавочке у подъезда клиники». Конечно, все это вымысел. Искусственный интеллект - это не разум, а всего лишь инструмент и как врача его надо обучать.

Существует два принципиально разных вида обучения искусственного интеллекта: дедуктивное и индуктивное. Дедуктивное обучение основано на подготовленных знаниях, тогда как индуктивное обучение выявляет эмпирические закономерности по прецедентам. Обучение является важнейшим элементом работы искусственного интеллекта, и без него ИИ не может существовать.

Откуда же черпать информацию для обучения искусственного интеллекта? Учебники, которые хороши для обучения студентов, здесь не подходят. Для ИИ важнее практика и опыт, поскольку они обеспечивают реальные данные и примеры, необходимые для эффективного обучения, но использование устаревших источников информации не даст нужного результата. Поэтому по-прежнему остаются высокоинформативные научные статьи, рекомендации научных сообществ, различного рода  рандомизированные исследования, метаанализы, официальные документы и т.д. В части этих источников присутствует искаженная и противоречивая информация. Проблема в том, что ИИ не может отслеживать противоречия в огромном количестве медицинских документов. Чат GPT не может воспроизвести большие тексты (ограничения до 30 тыс. знаков), для GPT-моделей используются токены, чанки, вектора, векторные базы данных – эти параметры определяют возможности работы, что ведет к увеличению стоимости услуг ИИ.

Искусственный интеллект (ИИ) в медицине может распознать на изображении, например, на КТ, часто встречающуюся патологию, на которую он был обучен, но не сможет выявить редкое заболевание и это принципиальный вопрос. Он может создать красивую картинку, но нередко путает количество пальцев на конечностях человека. Генеративный искусственный интеллект сможет ответить на один вопрос, на который он обучен, но не сможет ответить сразу на несколько вопросов или дать развёрнутый ответ, как это делает студент на экзамене.

ИИ не отвечает на большинство медицинских вопросов, поскольку он преднамеренно ограничен разработчиками. Вы можете легко проверить это, например, задав медицинские вопросы Алисе. Она ответит, что не может предоставить ответ и порекомендует обратиться за консультацией к медицинскому сотруднику.

Если мы хотим, чтобы искусственный интеллект был полезным, а не навязывал свои ошибки, нам предстоит создать для него свою библиотеку. Фактически, нужно написать новый учебник, который будет объединять фундаментальные вопросы, необходимые для принятия решения, диагностический маршрут, обусловленный целесообразностью и нормативными документами, лечебные технологии с доказательствами и экономической обоснованностью согласно стандартам, рекомендациям и инструкциям. Но человек всё равно остаётся ключевым элементом в при реализации подсказок ИИ. Необходимо бороться с галлюцинациями ИИ, и это сегодня большая проблема, потому что он убедительно искажает информацию. Возникла проблема передачи машинам контроля над сферами жизни, которые до сих пор находились исключительно в ведении людей, например, машины-беспилотники и к этому уже привыкаем.

Искусственный интеллект (ИИ) не обладает сознанием и не является вменяемым в юридическом и психиатрическом аспектах. Ответственность по-прежнему несет человек. ИИ на базе нейронных сетей и машинного глубокого обучения способен строить взаимосвязи, которые человеку могут быть непонятны. Однако эти результаты требуют обязательной экспериментальной проверки, слепо доверять машине нельзя.

Поэтому в медицине искусственный интеллект в ближайшее время не будет ставить диагнозы и определять методы лечения. Он будет готовить только рекомендации для врача или пациента. Итоговое решение всегда будет оставаться за человеком – врачом или пациентом.

Также не стоит забывать, что возможно преднамеренное введение неверных данных в обучающие программы для ИИ. Это может быть сделано злонамеренно или для решения определённых коммерческих задач.

В СМИ уделяется большое внимание регуляторным актам по ИИ. Так в прошлом году вышел ряд постановлений в различных странах:

- В  марте 2023 года глава SpaseX, Tesla  и X Илон Маск, сооснователь Apple Стив Возняк и более 1.000 экспертов и руководителей отрасли по развитию искусственного интеллекта подписали открытое письмо с призывом приостановить работу продвинутого искусственного интеллекта до тех пор пока не будут созданы и внедрены проверенные независимыми экспертами общие протоколы безопасности.

- В конце 2023 года Open AI (разработчик ChatGPT) объявила о создании стратегии по превентивному устранению потенциальных опасностей искусственного интеллекта, особое внимание уделяется предотвращению рисков, связанных с развитием технологий.

- В октябре 2023 года вышел Указ Президента США: разработчики самых мощных систем искусственного интеллекта должны делиться результатами тестирования на безопасность и другой важной информации с правительством США. Также указ предусматривает разработку инструментов и текстов, которые призваны помочь убедиться в безопасности систем искусственного интеллекта.

- В 2020 году китайские власти вместе с бизнесом разработали 24 новых правила регулирования искусственного интеллекта и ввели их с 15 августа 2023 года.

- 13 марта 2024 года Европейский парламент одобрил проект закона AI Аct, регулирующего использование ИИ. Он предусматривает, что основанным на  ИИ технологиям, будет присваиваться категория риска – от низкой до неприемлемой. Документ призван обеспечить прозрачность, безопасность,  экологичность и этичность использования ИИ.

- В июле 2023 года генеральный секретарь ООН Антониу Гуттериш поддержал идею создания на базе ООН органа для формулировки глобальных стандартов по регулированию сферы ИИ. РФ тоже принимает участие в работе этой комиссии.

Сегодня в мире используются три модели влияния общества на искусственный интеллект.

Первая – ограничительный подход, включающий прямые запреты на использование отдельных систем искусственного интеллекта. Этот путь выбрали Европейский Союз и Бразилия.

Вторая – гибридный подход, сочетающий инструменты жёсткого регулирования и саморегуляции на основе ориентированных принципов. Так работают в КНР, Канаде и Соединённых Штатах.

Третья – стимулирующая модель, применяющая инструменты мягкого регулирования, в частности, с помощью этических принципов. Так работают в Великобритании, Сингапуре и России. В России создан специальный «Альянс разработчиков искусственного интеллекта», где обсуждаются вопросы этических методов воздействия на искусственный интеллект и его применение.

Мы в начале пути по работе с ИИ, и впереди нас ждёт множество открытий и вызовов.

Понравилась новость? Расскажи друзьям на

Еще больше новостей на нашем Telegram-канале