Unsere Forschung stellt guardrailed-AMIE (g-AMIE) vor, ein KI-System, das für die ärztliche Aufsicht bei medizinischen Diagnosen konzipiert ist. G-AMIE kann durch Dialogpatienteninformationen sammeln und Zusammenfassungen, Differentialdiagnosen und Behandlungspläne erstellen. Entscheidend ist, dass es so eingeschränkt ist, dass es keine individuelle medizinische Beratung geben kann. Überwachende Ärzte überprüfen und bearbeiten diese Informationen über eine Kliniker-Cockpit-Oberfläche, bevor sie mit dem Patienten kommunizieren. Eine randomisierte virtuelle OSCE-Studie verglich die Leistung von g-AMIE mit der von Krankenpflegefachkräften und Physician Assistants/Associates, die unter ähnlichen Einschränkungen arbeiteten. Die Ergebnisse zeigten, dass die diagnostische Leistung und die Behandlungspläne von g-AMIE von den Aufsichtspersonen und unabhängigen Bewertern bevorzugt wurden. Auch Patientenakteure bevorzugten die von g-AMIE erstellten Patientenmitteilungen. Die Studie unterstrich die Einhaltung von Sicherheitsleitplanken durch g-AMIE und seine qualitativ hochwertige Anamnese und SOAP-Notizen. Während g-AMIE in mehreren Metriken die Kontrollgruppen übertraf, war der Arbeitsablauf speziell für KI konzipiert und nicht vollständig repräsentativ für die Ausbildung von Klinikern. Zu den Einschränkungen gehören potenzielle Meinungsverschiedenheiten der Bewerter und die kognitive Belastung der Aufsicht. Zukünftige Arbeiten werden sich auf die Optimierung der Ausführlichkeit und die Erforschung realer Umgebungen konzentrieren. Dieser Rahmen stellt einen bedeutenden Schritt in Richtung menschlich-KI-Zusammenarbeit bei medizinischen Diagnosen dar.