Une initiative pour une utilisation sûre de l’intelligence artificielle basée sur les agents dans le domaine de la santé et des soins a été lancée
Professeur Hatim Abdulhussein, directeur exécutif, Health Innovation Kent Surrey Sussex
Une initiative appelée TrustX a été lancée pour aider à valider, déployer et tester l’IA basée sur des agents pour une utilisation dans le NHS et les services sociaux.
Il vise à soutenir le plan de santé du NHS sur 10 ans du gouvernement, qu’il réclame. adoption généralisée d’outils d’intelligence artificielle, notamment de technologies permettant de prendre en charge les diagnostics, d’automatiser les tâches de gestion, de prédire la demande de services et d’agents vocaux ambiants pour des tâches telles que la prise de notes.
TrustX vise à réduire le risque de biais, d’erreurs potentielles et de désinformation de la part des agents d’IA en évaluant leur comportement dans des situations réelles, leur interaction avec d’autres technologies et sources de données, et leur évolution au fil du temps.
L’initiative est une collaboration entre Health Innovation Kent Surrey Sussex (KSS), Trustworthy AI Lab University of Cambridge, Responsible AI Institute et The King’s Fund.
Professeur Hatim Abdulhussein, directeur exécutif de Health Innovation KSS, dit: « Les équipes de première ligne du NHS ont besoin d’une IA sûre, pratique et prête à affronter les pressions du monde réel.
« TrustX connecte l’innovation là où elle compte le plus, offrant aux cliniciens et aux responsables opérationnels un moyen fiable de tester, d’évaluer et de déployer l’IA agentique.
“Ce partenariat aidera le NHS à avancer plus rapidement, à réduire les frictions et à débloquer des améliorations significatives en matière de productivité et de soins aux patients.”
Nous espérons que TrustX éclairera et soutiendra le développement d’un écosystème partagé pour une expérimentation sûre, un apprentissage rapide et une adoption évolutive dans l’ensemble du NHS.
Il introduira un badge « technologie d’IA de confiance » qui donnera aux professionnels et au public l’assurance qu’un système logiciel a été vérifié de manière indépendante et est surveillé en permanence en termes de sécurité, d’exactitude et de conformité.
Sarah Woolnough, directrice générale du King’s Fund, a déclaré : « Nous sommes ravis de rejoindre le partenariat pour lancer TrustX et jouer un rôle dans le soutien au développement, à la validation et à la mise en œuvre de l’IA basée sur les agents dans l’environnement du NHS.
« Le plan de santé sur 10 ans affirme à juste titre que l’innovation et l’utilisation de technologies de pointe peuvent jouer un rôle important pour répondre à certaines des pressions opérationnelles et aux défis auxquels notre système de santé et de soins est confronté.
“À long terme, l’IA a un énorme potentiel – si elle est bien mise en œuvre – pour transformer le fonctionnement du NHS, ainsi que pour améliorer les soins aux patients et la manière dont les gens utilisent les services du NHS.”
TrustX est soutenu par les fondateurs d’entreprises britanniques de soins de santé, dont les Drs. Dom Pimenta de TORTUS, le Dr Haris Shuaib de Newtons Tree, Carmelo Insalaco de Rapid Health, le Dr John Jeans de CLEARnotes, Amna Askari et Rachel Finegold de Frontier Health AI et Seb Barker de Beam.
Dans une déclaration commune, les fondateurs ont déclaré : « En tant que fondateurs de grandes sociétés de soins de santé basées sur l’IA, nous partageons l’engagement de créer des technologies sûres, fiables et adaptées aux besoins des médecins et des patients.
“En contribuant à TrustX, nous visons à établir la référence en matière d’innovation responsable et à contribuer à créer un écosystème dans lequel l’IA offre des avantages mesurables sans compromettre la sécurité.”
Parallèlement, l’Agence de réglementation des médicaments et des produits de santé a lancé une commission nationale en septembre pour accélérer l’accès aux derniers outils d’IA, notamment la technologie vocale ambiante d’IA pour la prise de notes cliniques.
