تحکیم مقررات هوش مصنوعی توسط سازمان غذا و داروی آمریکا برای اطمینان از ایمنی بیماران و نوآوری در مراقبت‌های بهداشتی

تحکیم مقررات هوش مصنوعی توسط سازمان غذا و داروی آمریکا برای اطمینان از ایمنی بیماران و نوآوری در مراقبت‌های بهداشتی

یک مقاله که در نشریه انجمن پزشکی آمریکا (JAMA) منتشر شده است، به بررسی مقررات هوش مصنوعی در مراقبت‌های بهداشتی توسط سازمان غذا و داروی آمریکا پرداخته و همچنین پتانسیل هوش مصنوعی در پژوهش بالینی، توسعه محصولات پزشکی و مراقبت از بیماران را بررسی کرده و به حوزه‌های کلیدی که باید در به کارگیری مقررات برای چالش‌های خاص هوش مصنوعی در زیست-پزشکی و مراقبت‌های بهداشتی مورد توجه قرار گیرد، اشاره کرده است.

زمینه
پیشرفت‌های هوش مصنوعی پتانسیل زیادی برای تحول در زیست-پزشکی و مراقبت‌های بهداشتی دارند. انتظارات از هوش مصنوعی غالباً از فناوری‌های پزشکی قبلی مانند پزشکی از راه دور، ابزارهای سلامت دیجیتال و سوابق سلامتی الکترونیکی بیشتر است. در حالی که بسیاری از این فناوری‌ها پیشرفت‌های چشمگیری بودند، توانایی‌های ابزارهای هوش مصنوعی در بررسی داده‌ها، تشخیص و پزشکی شخصی‌سازی‌شده،انقلابی است.
با این حال، استفاده از هوش مصنوعی در پزشکی و مراقبت‌های بهداشتی نگرانی‌های مهمی را در زمینه نظارت و مقررات به همراه دارد. سازمان غذا و دارای آمریکا مدت‌هاست که در حال تدوین مقرراتی برای به کارگیری هوش مصنوعی در توسعه محصولات پزشکی و مراقبت‌های بهداشتی است. با این حال ماهیت پویا و در حال تغییر هوش مصنوعی، چالش‌های نظارتی منحصر به فردی را به ویژه در زمینه‌های اثربخشی، ایمنی، عملکرد پس از به کارگیری فناوری و پاسخگویی ایجاد می‌کند. علاوه بر این، سرعت سریع تکامل هوش مصنوعی نیازمند چارچوب‌های نظارتی است که بتوانند به سرعت سازگار شوند.

مقررات سازمان غذا و داروی آمریکا برای هوش مصنوعی در پزشکی
مقررات سازمان غذا و داروی آمریکا در مورد محصولات پزشکیِ مبتنی بر هوش مصنوعی، از سال 1995 با تأیید PAPNET آغاز شد. PAPNET ابزاری مبتنی بر هوش مصنوعی بود که پاتولوژیست‌ها می‌توانستند از آن برای تشخیص سرطان گردن رحم استفاده کنند. اگرچه PAPNET به دلیل هزینه‌های بالا به طور گسترده‌ای مورد پذیرش قرار نگرفت. سازمان غذا و داروی آمریکا تاکنون نزدیک به 1000 دستگاه و محصول پزشکی مبتنی بر هوش مصنوعی را تأیید کرده است که عمدتاً در رادیولوژی و قلب و عروق کاربرد دارند.
هوش مصنوعی همچنین در توسعه دارو، از جمله کشف دارو، آزمایش‌های بالینی و بهینه‌سازی دوز به طور گسترده‌ای استفاده می‌شود. علاوه بر این، در حالی که کاربردهای مبتنی بر هوش مصنوعی در زمینه انکولوژی رایج‌تر شده است، علاقه فزاینده‌ای به استفاده از هوش مصنوعی در سلامت روان وجود دارد، حوزه‌ای که فناوری‌های دیجیتال پتانسیل زیادی برای تأثیرگذاری دارند.

تعداد اظهارات نظارتی سازمان غذا و داروی آمریکا برای استفاده از هوش مصنوعی در توسعه دارو در یک سال ده برابر افزایش یافته است و با توجه به دامنه وسیع کاربردها و پیچیدگی‌های هوش مصنوعی، این سازمان چارچوب نظارتی را به‌گونه‌ای تطبیق داده است که هم مبتنی بر ریسک باشد و هم به تکامل هوش مصنوعی در محیط‌های بالینی واقعی توجه کند.
با این حال، این مقررات باید نیاز به مدیریت محصولات هوش مصنوعی در تمام دورۀ استفاده از آن‌ها را در نظر بگیرد، به ویژه از طریق نظارت مداوم بر عملکرد آن‌ها پس از به کارگیری در محیط‌ بالینی.
مرکز محصولات پزشکی سازمان غذا و داروی آمریکا همچنین چهار حوزه تمرکز برای توسعه هوش مصنوعی شناسایی کرده است که شامل افزایش ایمنی بهداشت عمومی، حمایت از نوآوری‌های نظارتی، ترویج بهترین شیوه‌ها و استانداردهای هماهنگ و پیشبرد پژوهش‌ها برای ارزیابی کارکرد هوش مصنوعی است.

مفاهیم کلیدی برای مقررات سازمان غذا و داروی آمریکا در مورد هوش مصنوعی
سازمان غذا و داروی آمریکا قصد دارد با استفاده از قوانین ایالات متحده و همچنین استانداردهای جهانی، مقررات محصولات پزشکی مبتنی بر هوش مصنوعی را شکل دهد. همکاری با نهادهایی مانند انجمن بین‌المللی تنظیم‌کنندگان دستگاه‌های پزشکی، این امکان را به سازمان غذا و دارو می‌دهد که استانداردهای هماهنگ هوش مصنوعی را در سطح جهانی ترویج کند، از جمله مدیریت نقش هوش مصنوعی در توسعه دارو و مدرن‌سازی آزمایش‌های بالینی از راه همکاری‌های بین‌المللی.
با تکامل سریع هوش مصنوعی، یکی از چالش‌های اصلی سازمان غذا و داروی آمریکا، پردازش مؤثر حجم زیادی از مقررات مرتبط با هوش مصنوعی است، در حالی که باید اطمینان حاصل ‌شود که نوآوری متوقف نشود و ایمنی به خطر نیفتد. علاوه بر این، نظارت مداوم پس از به کارگیری هوش مصنوعی، برای اطمینان از کارکرد درست آن‌ها در طول زمان، به ویژه در محیط‌های بالینی متنوع و در حال تغییر، حیاتی است. این امر نیاز به یک چارچوب نظارتی انعطاف‌پذیر و مبتنی بر علم دارد که امکان ارزیابی مداوم محصولات هوش مصنوعی را فراهم می‌آورد.
رویکرد مبتنی بر ریسک برای قاعده‌مندسازی دستگاه‌های پزشکی مبتنی بر هوش مصنوعی همچنین اجازه می‌دهد تا رویکردهای انعطاف‌پذیری در طیف وسیعی از مدل‌های هوش مصنوعی وجود داشته باشد. به عنوان نمونه، مدل‌های ساده که برای عملکردهای اداری استفاده می‌شوند، به قوانین کمتری نیاز دارند؛ در حالی که مدل‌های پیچیده، مانند آن‌هایی که در دفیبریلاتورهای قلبی تعبیه شده‌اند، مقررات سخت‌گیرانه‌تری قرار دارند.
یک نمونه دیگر که توسط بررسی‌کنندگان ارائه شده، ابزار هوش مصنوعی برای تشخیص سپسیس (Sepsis ImmunoScore) است که به عنوان یک دستگاه کلاس دو طبقه‌بندی شده و نیاز به تدابیر ایمنی ویژه‌ای دارد تا به خطرات احتمالی تورش‌های تحلیلی یا شکست الگوریتم رسیدگی شود.
این بررسی تأکید می‌کند که ابزارهای تنظیمی تخصصی برای ارزیابی تعداد رو به رشد مدل‌های هوش مصنوعی، از جمله هوش مصنوعی مولد و مدل‌های زبانی بزرگ، مورد نیاز است. این کار به ویژه به دلیل خطرات ناشی از خروجی‌های غیرقابل پیش‌بینی، مانند تشخیص‌های نادرست، که نیاز به ارزیابی دقیق پیش و پس از به کارگیری در کارهای بالینی دارد، اهمیت پیدا می‌کند.