Mensch oder Maschine? Mit wem spreche ich da gerade?

17

Deep Blue. Als im Jahr 1997 ein Computer namens „Deep Blue“ eine Schachpartie gegen den amtierenden Weltmeister in dieser Disziplin, Garry Kasparov, gewonnen hatte, war das ein Meilenstein in der Entwicklung künstlicher Intelligenz (KI), aber noch irgendwie nachvollziehbar. Wenn ein Computer im direkten Dialog spezifische Empfehlungen für die Prävention von unterschiedlichsten Unfallszenarien abgibt, können sich nur mehr die wenigsten Menschen vorstellen, wie das funktioniert.

Deep Learning. So geschehen im aktuellen KFV-Projekt „KI-unterstützte Text­analyse von Unfallbeschrei­­­bungen“ mit dem Digital Media Department der FH OÖ. Ermöglicht wird dieses Sprach­­­verständnis durch eine neue Gene­ration von Sprach­modellen, die ein bestimmtes Wort auch in seinem jeweiligen Zusammen­­­hang interpretieren können. Das Wort „Zug“ beispielsweise kann je nach Zusammenhang sehr viele Bedeutungen annehmen, welche das Modell erkennen muss. Man spricht hier von Deep Learning Sprachmodellen bzw. neuronalen Netzen.
Mehr dazu finden Interessierte in der Präsentation des Studienautors auf der EU-Safety Download-Seite: Downloads – EU-Safety 2022 (Plenary 3 – Risk perceptions and communication, P3_2-Stöckl).

So sieht das Wort Hello für ein Deep-Learning-Sprachmodell aus (© stoeckl.ai).

Ziel dieses Projektes war es, ein Machine Learning Verfahren zu entwickeln, das die Ableitung von Präventionsmaßnahmen aus Unfallberichten automatisch durchführen kann. Nach einer Lernphase anhand von 1.000 Unfallhergängen aus der KFV-Unfallerhebung IDB-Austria und entsprechenden Präventionstipps von KFV-Experten war der künstliche Experte eingeschult und bereit, seine eigenen Empfehlungen abzugeben.

Für den Unfallhergang „Bei einem Tauchgang im Meer beim Herausschneiden einer Pflanze am Finger verletzt“ empfiehlt er z.B.: „Verwenden Sie beim Tauchen ein Messer mit einer stumpfen Spitze“ und „Tragen Sie beim Tauchen Handschuhe“. Oder für den Unfallhergang „Stolpern und Sturz beim Treppensteigen“: „Tragen Sie Schuhe mit guter Bodenhaftung, um ein Ausrutschen zu vermeiden“ und „Benutzen Sie beim Treppensteigen Handläufe“.

Mensch oder Maschine? Diese Frage mussten 30 Personen anhand von zwanzig Unfallhergängen beantworten, bei denen die Empfehlungen entweder von „der KI“ oder vom Menschen gegebenen worden waren. Die Auswertung der insgesamt 600 Entscheidungen ergab, dass kein einziges Beispiel von allen Testpersonen richtig zugeordnet wurde, 62 Prozent der vorgenommenen Zuordnungen waren richtig. Das ist nur geringfügig besser als es eine zufällige Zuordnung (mi ca. 50 Prozent) ergeben hätte.

KI-Chat Unfallprävention. Die Ergebnisse zeigen, dass Deep-Learning-Sprachmodelle in der Lage sind, Unfalldaten in Textform automatisch sinnvoll zu interpretieren. In einem nächsten Schritt werden mit dieser Methode große Mengen von Unfalldaten analysiert und die KI-Empfehlungen kategorisiert und statistisch ausgewertet, um die Entwicklung evidenzbasierte Strategien zur Verletzungsprävention zu unterstützen.