Grundsätzlich muss man im Rahmen der Künstlichen Intelligenz immer das große Ganze im Blick haben, weil sie nicht nur in der Medizin, sondern auch in anderen Bereichen eingesetzt wird. Auf die Grundlagen und Begriffe sind wir hierzu bereits im ersten Teil unserer Serie eingegangen: Künstliche Intelligenz Grundlagen für die Medizintechnik
Neben den Begriffen ist natürlich auch die Normenarbeit vielschichtig, doch manchmal für die Medizintechnik nicht einmal zielführend. Wir möchten Ihnen dies im folgenden Beitrag näher bringen.
Normen für Künstliche Intelligenz – beginnen wir oben bei der ISO / IEC
Die Arbeitsgruppe „ISO/IEC JTC 1/SC 42 Artificial intelligence“ stellt einen Zusammenschluss von IEC und ISO dar, die sich dem Schreiben von Normen im Bereich der Künstlichen Intelligenz widmet. Aufgrund der Aufstellung des Komitees werden horizontale Standards von ihnen entwickelt, die für alle Bereiche, in denen künstliche Intelligenz (AI oder Artificial Intelligence) genutzt wird, angewendet werden müssen.
Horizontale Standards sind Normen, die für mehrere Bereiche gelten und deshalb eher generisch sind. Wenn keine weiteren spezifischen Normen vorhanden sind, stellen sie den sogenannten „State of the Art“ dar und sind damit anwendbar. Vertikale Standards hingegen sind für spezifische Anwendungsfelder gedacht und dürfen horizontale Standards überschreiben.
Dies ist uns bereits aus dem Bereich der Medizintechnik bekannt, in der die IEC 60601-1 Norm als horizontaler Standard für alle elektrischen Medizingeräte ihre Anwendung findet. Vertikale Standards sind dann als colleteral Standards, die für Produktgruppen / Anwendungsfelder (60601-1-3 / 60601-1-8) oder dann im speziellen partikular Standards (alle 60601-2-X), die für einzelne Produkte anwendbar sind, anzusehen.
Grundsätzlich sind Normen und Standards nicht bindende, ihre Anwendung lohnt sich aber in der Regel um dem Stand der Technik Rechnung zu tragen. Insbesondere bei harmonisierten Normen lohnt sich die Anwendung, wenn gleich auch selbst diese, nicht bindend sind.
Bereits veröffentlichte Standards des JTC 1/SC 42 Komitees zu künstlicher Intelligenz
Folgende Normen hat das Komitee JTC 1/SC 42 bislang veröffentlicht:
|
ISO/IEC TR 20547-5:2018 |
Information technology — Big data reference architecture — Part 5: Standards roadmap |
|
ISO/IEC TR 20547-2:2018 |
Information technology — Big data reference architecture — Part 2: Use cases and derived requirements |
|
ISO/IEC 20546:2019 |
Information technology — Big data — Overview and vocabular |
|
ISO/IEC TR 24028:2020 |
Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence |
|
TR 29119-11:2020 |
Software testing — Part 11: Guidelines on the testing of AI-based systems |
|
ISO/IEC 20547-3:2020 |
Information technology — Big data reference architecture — Part 3: Reference architecture |
|
TR 24027:2021 |
Information technology — AI — Bias in AI systems and AI aided decision making |
|
TR 24029-1:2021 |
AI – Assessment of the robustness of neural networks – Part 1: Overview |
|
TR 24030:2021 |
Information technology — AI — Use cases |
|
TR 24372:2021 |
Information technology — AI — Overview of computational approaches for AI systems |
|
ISO/IEC 38507:2022 |
Governance of IT — Governance implications of the use of artificial intelligence by organizations |
|
ISO/IEC 22989:2022 |
Information technology — AI— Artificial intelligence concepts and terminology |
|
ISO/IEC 23053:2022 |
Framework for Artificial Intelligence (AI) Systems Using Machine Learning (ML) |
|
AAMI CR34971:2022 |
Guidance on the Application of ISO 14971 to Artificial Intelligence and Machine Learning |
Betrachtet man die Entwicklung genauer, stellt man fest, dass die ersten Standards alle Technical Reports oder Normen zu Definitionen sind. Die in den Technical Reports aufgeführten Definitionen sind nicht zwingend anzuwenden, sondern stellen nur Empfehlungen dar. Das gilt natürlich nicht bei den Definitionen, die in Gesetzen und Regularien geschrieben stehen. Damit sind diese Definitionen bindend und sollten auch Einzug in Ihrer Dokumentation finden, um den Prüfern das Leben zu erleichtern.
Wo befindet sich der „State of the Art” für die Medizintechnik?
Das IMDRF, International Medical Device Regulators Forum, hat den Definitionsstandard ISO/IEC 22989 analysiert und einen Großteil der Definitionen ohne erhebliche Änderungen übernommen. Einige Definitionen wurden leicht an die Medizintechnik angepasst. Damit kann das IMDRF Dokument „Machine Learning-enabled Medical Devices: Key Terms and Definitions“ als „State of the Art“ angesehen werden, sodass die Definitionen der ISO/IEC 22989 nicht verwendet werden müssen.
Derzeit arbeitet das JTC 1/SC 42 Komitee an 25 weiteren Standards. Das Komitee besteht aus ~ 300 Mitglieder. Diese sind in verschiedenen Gruppen organisiert und schreiben sehr aktiv an den entsprechenden Normen. In den kommenden zwei bis drei Jahren erscheinen voraussichtlich eine Vielzahl neuer, horizontaler Standards und werden, aufgrund der nicht existierenden vertikalen Standards in der Medizintechnik, den „State of the Art“ darstellen. Die bereits veröffentlichten Normen der JTC 1/SC 42 sind als aktuell anzusehen und stellen damit erst einmal einen großen Anforderungskatalog für alle AI Produkte dar.
Hinzu kommt, dass derzeit einige Länder aktiv zusätzliche Anforderungslisten schreiben und damit nationale Anforderungen festlegen. In Europa wird insbesondere der geplante AI Act mit Spannung erwartet. Normen, die bis dahin etabliert worden sein werden, müssen dann durch die CEN bzw. CENELEC erneut in Augenschein genommen werden, um die Harmonisierung auf europäischer Ebene zu erzielen.
Auswirkungen der horizontalen, nicht-medizinischen Normen auf die Medizintechnik
Mit der Veröffentlichung der „non-medical standards“ werden die Normenschreiber im Bereich medical dazu angehalten, diese Standards zu lesen und gegebenenfalls einen eigenen Standard zu schreiben, wenn die Anforderungen nicht für die Medizintechnik geeignet sind. Ob es eine Stellungnahme über die Tauglichkeit von Standards für die Medizintechnik geben wird, ist noch offen.
Als Beispiel für diesen Ansatz kann man das AdHoc 6 Committee verstehen, der den „non-medical standard TR 29119-Software testing — Part 11: Guidelines on the testing of AI-based systems“ analysiert hat. In dieser Gruppe wollte man ein Referenzdokument erstellen, indem die anwendbaren Kapitel zu referenzieren sind. Leider waren die Anforderungen in diesem Standard zu ungenau und zu wenig spezifisch, um für die Medizintechnik Verwendung zu finden. Die Schlussfolgerung der AdHoc 6 war, dass man nun einen eigenen Standard im Bereich „AI Testing“ schreiben will.
Normungsaktivitäten außerhalb des JTC 1/SC 42 Komitees
Neben dem JTC 1/SC 42 Komitee beschäftigt sich inzwischen auf die IEC Gruppe Medizintechnik (TC62) mit dem Thema Künstliche Intelligenz
Direkt unter der TC 62 ist die Advisory Group SNAIG (Software Network and Artificial Intelligence Advisory Group) angesiedelt, die dazu dient, das Sekretariat der TC 62 im Bereich AI und Network zu beraten. Bislang hat dieses Komitee vier Berichte veröffentlicht.
Der erste Bericht hat derzeit die existierenden Regulatorischen Anforderungen aus folgenden Ländern zusammengefasst: Brasilien, China, Europäische Union, Indien, Japan, Korea, Saudi Arabien und Singapur.
Zusätzlich hat die SNAIG im ersten Halbjahr folgende Empfehlungen ausgesprochen:
- Bessere Zusammenarbeit mit ISO TC215 (Technisches Komitee das z.B. mit für die 62304 verantwortlich ist)
- GOST clinical evaluation
Das russische Standard Komitee wollte einen Standard für klinische Bewertungen schreiben, dieses wurde aber aufgrund politischer Probleme eingestellt.
Im zweiten und Dritten Bericht wurden die Regularien der Länder weiter beobachtet und es wurde versucht alle anderen Normenkomitees (ISO / IEEE /AAMI) mit einzubinden.
Zusätzlich wurde im dritten Report eine Umfrage gestartet, welche Themengebiete im Bereich Künstliche Intelligenz in der Medizintechnik als wichtig angesehen werden. Dabei entstand folgende Reihenfolge:
- Verification methods
- Cybersecurity
- Risk Management
- AI data lifecycle
- Data quality assurance
- AI software lifecycle
- Quality management system for AI
- AI transparency
- Remote monitoring or control
- Privacy
Daraus sind einige Anregungen generiert worden, sodass zwei zusätzliche Gruppen bei der IEC gegründet wurden, die jetzt aktiv Normen schreiben. Zum einen ist das die PT8, die sich aktiv im Bereich Klinischer Validierung beschäftigen möchte, zum anderen die PT 63450, welche einen Standard im Bereich „Testing of AI Systems“ schreiben möchte.
Insgesamt hat die SNAIG seit ihrem Bestehen 18 Empfehlungen ausgesprochen und die Zusammenarbeit mit den Komitees ISO 210 und ISO 215 intensiviert. Das ISO 210 Komitee schreibt alle QM Standards für Medizintechnik, während die ISO 215 alle Normen im Bereich medizinischer Software umfasst (größtenteils mit der IEC SC62WG1 zusammen).
Es soll also vermieden werden, dass Standards doppelt geschrieben werden, die sie sich auch widersprechen könnten. Bei der ISO gibt es als Gegenpart zur SNAIG, die ADHOC Gruppe, die sich mit ISO Normen beschäftigt, die für AI angepasst werden sollten. Hier wird es in nächster Zeit auch einige Aktivitäten geben, noch sind hier jedoch die NWIP („New Working Item Proposals“) nicht gestartet.
Aktuell ist also sehr viel Musik in dem Thema drin, halten Sie also Augen und Ohren offen. Wir werden es hier ebenfalls tun, bleiben Sie daher bereits jetzt auf Teil 3 unserer Reihe gespannt.
Dieser Artikel ist in Zusammenarbeit mit Dominik Kowalski, IEC Mitglied und dem „Institut für Intelligente Cyber-Physische Systeme (ICPS)“ der Hochschule Heilbronn entstanden.
Bitte beachten Sie, dass alle Angaben und Auflistungen nicht den Anspruch der Vollständigkeit haben, ohne Gewähr sind und der reinen Information dienen.
