Специалист по анализу данных Зыков обратил внимание на опасность слепого доверия искусственному интеллекту при попытках распознать рукописные назначения врачей. В рамках проведенного исследования он протестировал возможности трех известных нейросетей — ChatGPT, Gemini и Grok — на примере девяти подлинных российских рецептов, написанных от руки.
Согласно результатам эксперимента, алгоритмы демонстрируют высокую точность при идентификации названий препаратов, однако сталкиваются с серьезными трудностями при интерпретации количественных данных и инструкций. Зыков подчеркнул, что ошибки могут быть критическими: так, вместо указанных в рецепте 2,16 тыс. таблеток одна модель распознала лишь 216 единиц, а другая — всего 60. В ряде случаев ИИ искажал саму методику приема лекарств, например, заменяя разовый вечерний прием двух таблеток на трехкратное ежедневное использование одной штуки, что фактически меняет врачебную рекомендацию.
Помимо математических просчетов, нейросети склонны игнорировать сопутствующие примечания, допускать ошибки в фамилиях медицинских работников и самовольно достраивать неразборчивые фрагменты текста. Основная угроза заключается в том, что ИИ использует контекстный анализ для заполнения пробелов: если буква не читается, система может подставить наиболее вероятное по смыслу слово, создавая иллюзию правильного ответа. При этом алгоритмы далеко не всегда сигнализируют о своей неуверенности в полученных данных.
Ранее в этом контексте киберэксперт Игорь Бедеров высказывал мнение, что образовательные учреждения обязаны разъяснять подрастающему поколению механизмы функционирования ИИ и связанные с ним риски.
