امروزه اهمیت هوش مصنوعی در ارائه خدمات بهداشت و درمان بیشتر شده است و اپلیکیشن‌های پزشکی بیشتری در حال توسعه هستند. اما دغدغه حاضر، عدم وجود حریم خصوصی در رابطه با اطلاعات استفاده شده در مدل‌های هوش مصنوعی است. مسائلی همچون حفظ امنیت داده‌ها و اعتماد به منابع در کنار احتمال عدم شفافیت و سوگیری در جمع آور ی و تفسیر داده‌ها نیز از دغدغه‌های موجود هستند. بنابراین باید در اپلیکیشن‌های پزشکی یک سیستم ناظر مدیریتی تعریف کرد اما اکنون فناوری‌های هوش مصنوعی در قلمرو جدیدی قرار دارند و هنوز قواعد یکپارچه و فرآیند مشخصی برای دستیابی به چنین هدفی ممکن نیست.