Nuestra investigación presenta guardrailed-AMIE (g-AMIE), un sistema de IA diseñado para la supervisión médica en diagnósticos. G-AMIE puede recopilar información del paciente a través del diálogo y generar resúmenes, diagnósticos diferenciales y planes de manejo. Crucialmente, está restringido para evitar proporcionar consejos médicos individualizados. Los médicos supervisores revisan y editan esta información a través de una interfaz de cabina clínica antes de la comunicación con el paciente. Un estudio aleatorizado de OSCE virtual comparó el rendimiento de g-AMIE con el de enfermeras practicantes y asistentes/asociados médicos que operaban bajo restricciones similares. Los resultados mostraron que el rendimiento diagnóstico y los planes de manejo de g-AMIE fueron preferidos por los supervisores y evaluadores independientes. Los actores pacientes también favorecieron los mensajes redactados por g-AMIE para pacientes. El estudio destacó la adherencia de g-AMIE a las barreras de seguridad y su alta calidad en la toma de historial y notas SOAP. Si bien g-AMIE superó a los grupos de control en varias métricas, el flujo de trabajo fue diseñado específicamente para la IA y no representa completamente la formación clínica. Las limitaciones incluyen la posible falta de acuerdo de los evaluadores y la carga cognitiva de la supervisión. El trabajo futuro se centrará en optimizar la verbosidad y explorar entornos del mundo real. Este marco representa un paso significativo hacia la colaboración humano-IA en diagnósticos médicos.