Forschungsprojekte

ComAIs are increasingly presented as solutions to the care demands of a growing older population vis-à-vis a defunding of healthcare systems and a shortage of healthcare professionals. They are also promoted as supporting “healthy ageing”, a policy objective that aims to advance the wellbeing of older adults. In this context, technology companies and policy makers create re-gimes of anticipations that shape expectations and future imaginaries, and define what is thinkable and desirable. In these anticipation regimes, ComAIs are ascribed different “care obligations”: managing healthy ageing, providing health information and facilitating older adults’ access to health care. P9 researches the emergence and constructions of hybrid healthcare figurations through digital methods and qualitative case studies in Austria, Germany, UK and the US. The project aims to reconstruct care practices of different older populations, healthcare professionals and informal carers through ComAIs. This contributes to the RU’s research objectives to typify patterns of appropriation in social domains and explore new forms of hybrid agency.

Der Stand der Digitalisierung der öffentlichen Verwaltung wird in der gesellschaftlichen Debatte gegenwärtig kritisch diskutiert. Es dominieren Wahrnehmungen von fehlender Innovationskraft und Rückständigkeit im internationalen Vergleich. Die digitale Transformation trifft in Deutschland mit einem weiteren gesellschaftlichen Transformationsprozess von nicht zu unterschätzendem Ausmaß zusammen: dem demografischen Wandel. Denkt man die beiden gesellschaftlichen Großtrends – digitale Transformation von Staat und öffentlicher Verwaltung sowie demografischer Wandel – zusammen, so kommt der Deutschen Rentenversicherung eine zentrale Rolle zu. Für eine wachsende Zahl von Bürger:innen wird die Deutsche Rentenversicherung zu dem Ort, an dem sich Staatlichkeit materialisiert und im Alltag erfahrbar wird. Für einen Staat, der die digitale Transformation pro-aktiv gestalten will, ist die Digitalisierung der Rentenversicherung ein zentrales Gestaltungsinstrument. Digitalisierung kann zu neuen Formen der Teilhabe führen, aber auch neue Ungleichheiten hervorrufen oder bestehende verstärken. Wie soziale Akteur:innen diese Veränderungsprozesse erleben, muss innerhalb eines partizipativen Forschungsansatzes ergründet werden, der auf die gelebte Erfahrung und die lebensweltliche Expertise abzielt. Das Forschungsvorhaben zielt auf einen solchen partizipativen Forschungsansatz ab und greift hierfür eine organisatorische Besonderheit der Deutschen Rentenversicherung auf: die soziale Selbstverwaltung als partizipatives Organisationsmodell, die gesetzliche Versicherung und Zivilgesellschaft miteinander verbindet. Ausgangsthese ist, dass die soziale Selbstverwaltung mit ihrer Verknüpfung zur Zivilgesellschaft ein wichtiges Element darstellt, um die Digitalisierung der gesetzlichen Rentenversicherung niedrigschwellig und inklusiv zu gestalten. Das Forschungsvorhaben untersucht, (1) wie sich die Strukturen, Prozesse und Praktiken der sozialen Selbstverwaltung durch Digitalisierung wandeln, (2) welche Chancen und Herausforderungen damit verbundenen sind und (3) welchen Beitrag die soziale Selbstverwaltung zu einer inklusiven und bürger*innenorientierten digitalen Rentenversicherung leisten kann.

Dieses interdisziplinäre Forschungsprojekt will das die gesellschaftlichen, politischen und wirtschaftlichen Auswirkungen technologischer Innovationen, insbesondere im Bereich der Künstlichen Intelligenz (KI), beleuchten. Besonderes Augenmerk liegt dabei auf der Automatisierung des maschinellen Lernens (AutoML) und den damit einhergehenden Veränderungen, insbesondere im Bereich des Designs von ML-Systemen als auch im Kontext der Einbindung in Unternehmensprozesse und deren konkrete Anwendung durch Fachexpert:innen. Um dieses Vorhaben adäquat bearbeiten zu kommen, werden Ethik und Business Analytics and Data Science im Rahmen dieses Projekts intensiv zusammenarbeiten, um Expertisen aus unterschiedlichen Fachdiskursen einzubringen und um die im Kontext der mit AutoML verbundenen Herausforderungen möglichst breit bearbeiten zu können. AutoML, das als Demokratisierung des maschinellen Lernens propagiert wird, ermöglicht es Fachexpert:innen mit begrenztem Wissen im Bereich ML, maßgeschneiderte Modelle zu erstellen. Dies senkt die Einstiegshürde, birgt jedoch das Risiko eines mangelnden Bewusstseins für technologische Grenzen und Designentscheidungen. Die Ethik spielt eine Schlüsselrolle, da sie die Auswirkungen auf die menschliche Autonomie und Wahlfreiheit in den Fokus rückt. Die herkömmliche Regulierung und IT-Governance stoßen hier an ihre Grenzen, da AutoML-Anwendungen ohne formelle Genehmigungen genutzt werden können, was als Schatten-IT bekannt ist. Es ist hier etwa notwendig, spezielle Dokumentationsrichtlinien für KI zu entwickeln, um die Anforderungen an ML-Anwendungen (FAT - Fairness, Accountability, Transparency) auf AutoML anzuwenden. Ein zentrales Forschungsdesiderat liegt in der ethischen Bewertung von AutoML-Anwendungen, insbesondere in Bezug auf deren Einsatz durch Fachexpert:innen. Ethik hat gerade in den Anfangsphasen technologischer Entwicklungen eine wichtige Orientierungsfunktion und sollte intensiv in diese Innovationsprozesse miteinbezogen werden. Die in interdisziplinärer Zusammenarbeit zwischen den Professuren für Business Analytics and Data Science sowie Ethik und Gesellschaftslehre erarbeiteten Projektziele umfassen die Erhebung des aktuellen Standes des Einsatzes von AutoML in der steirischen Wirtschaft, die Durchführung einer Risiko- und Potentialanalyse sowie die Erstellung eines Handlungsleitfadens. Dies soll dazu beitragen, ethische Aspekte von AutoML-Anwendungen in konkreten Einsatzkontexten zu berücksichtigen und eine ethische Regulierung im Rahmen der digitalen Transformation voranzutreiben.

Fortschritte im Bereich der Künstlichen Intelligenz (KI) und insbesondere des maschinellen Lernens (ML) haben bedeutsame Auswirkungen auf Menschen, Organisationen und die Gesellschaft. Die Gestaltung und Entwicklung von KI und ML lag jedoch bislang in der Hand von Spezialist:innen. Fachexpert:innen mussten ihre Ideen für KI-Anwendungen und die Anforderungen mit diesen Spezialist:innen diskutieren, wobei das nicht nur zeitaufwändig war, sondern die Verfügbarkeit von KI-Spezialist:innen einen Engpass darstellte.

Mithilfe von Low-Code Development Platforms (LCDPs) können KI-Anwendungen nun auch durch Fachexpert:innen selbst erstellt werden. Die Forschungsgruppe [Sm-AI-R] erforscht den Design- und Aneignungsprozess dieser Systeme in einem interdisziplinären Verbund.

Knowledge Risks in Industry 4.0 Supply Chains: A Legal and Technical Perspective in Zusammenarbeit mit Univ.-Prof. Dr. Johannes Zollner vom Institut für Unternehmensrecht und internationales Wirtschaftsrecht und gefördert durch den profilbildenden Bereich Smart Regulation

Durch den organisationsübergreifenden Datenaustausch im Rahmen der Digitalisierung, ergeben sich neben vielen Vorteilen auch neue Risiken. Hier ist besonders das Risiko der unbeabsichtigten Offenlegung von wettbewerbskritischem Wissen im Rahmen des Datenaustauschs hervorzuheben.  Das offengelegte Wissen könnte von den Partnern in der Lieferkette für den eigenen Vorteil genützt werden. Da der Wissensvorsprung für viele Unternehmen, insbesondere für kleine und mittlere Unternehmen (KMU), jedoch ein - wenn nicht sogar der - entscheidende Wettbewerbsvorteil ist, ist dieses Risiko als substantiell einzuschätzen. Gemeinsam mit dem Institut für Unternehmensrecht und Internationales Wirtschaftsrecht wird der Schutz von Wissen in organisationsübergreifenden Lieferketten untersucht. Hierbei werden folgende Fragestellungen sowohl aus rechtlicher als auch aus technischer Perspektive betrachtet: Welche rechtlichen Maßnahmen und Instrumente stehen zur Verfügung, um das Risiko einer zweckwidrigen Datenverwendung möglichst gering zu halten? Inwieweit können bestehende technische Maßnahmen für diese datenbasierten Kollaborationen angewendet bzw. angepasst werden? Und inwieweit ist ein Zusammenspiel von rechtlichen und technischen Maßnahmen möglich und sinnvoll?

Das Projekt hat eine Laufzeit von 4 Jahren und ist am 01.06.2019 gestartet.

Projektmitarbeiter: 

• Thalmann, Stefan, Univ.-Prof. Priv.-Doz. Dr.
• Zeiringer, Johannes, BSc MSc

Das Projekt "Digitale Kompetenz-Entwicklung für Jugendliche mithilfe intelligenter Lernsoftware mit Fokus auf Cybersecurity und verantwortlichen Umgang mit Daten", oder kurz "Digital? Sicher!", widmet sich den Auswirkungen der Digitalisierung auf die berufliche Kompetenzentwicklung. Hierbei soll vor allem der sichere und verantwortungsvolle Umgang mit Informations- und Kommunikationstechnologien im Cyberspace erforscht werden bzw. sollen fehlende Kompetenzen vermittelt werden. Ziel ist es, Bewusstsein für diese Thematik zu schaffen und das allgemeine Niveau der digitalen Grundbildung, besonders im Hinblick auf Cyberrisiken, zu erhöhen.

Das BANDAS-Center engagiert sich in dem, seit Januar 2020 laufenden und vom steirischen Zukunftsfond unterstützten, Projekt als Partner!

Weitere Informationen zum Projekt gibt es hier.

Künstliche Intelligenz (KI) ist im Personalmanagement mittlerweile weit verbreitet. Die Einsatzgebiete reichen dabei von Bewerbungsgesprächen mithilfe von Chatbots, über das Vorschlagen von Weiterbildungen bis hin zur automatisierten (Vor)auswahl von BewerberInnen. Bei ArbeitnehmerInnen und PersonalpraktikerInnen herrscht starke Verunsicherung aufgrund der mangelnden Transparenz über die dahinterliegenden Modelle und die verwendeten Datengrundlagen bei oftmals für ArbeitnehmerInnen wichtigen Entscheidungen mit weitreichenden Folgen (Einstellung, Beförderung, Disziplinierung,…).

Damit BetriebsrätInnen über Einsatzmöglichkeiten sowie bereits bestehende und sich in Arbeit befindliche Regulierungsmöglichkeiten von KI-Applikationen informiert sind, zielt das geplante Projekt auf die Erstellung eines Informationsvideos und die Erarbeitung eines Seminarkonzeptes zur Fortbildung von BetriebsrätInnen ab, das ihnen ermöglicht die Anliegen der ArbeitnehmerInnen in diesen Belangen kompetent vertreten zu können.

In enger Abstimmung mit ArbeitnehmerInnen aus betroffenen Betrieben sowie der ÖGB Steiermark wird das Projektteam zusammengesetzt aus ForscherInnen des Business Analytics and Data Science-Center, Karl-Franzens-Universität Graz und der Human Resource Management Group, Paris Lodron Universität Salzburg, die den Informationsbedarf der BetriebsrätInnen eruieren, um ein maßgeschneidertes Angebot konzipieren zu können. Die ProjektmitarbeiterInnen am BANDAS-Center umfassen Prof. Stefan Thalmann, Dr. Jürgen Fleiß und Christine Malin.

Unter nachfolgendem Link finden Sie alle Informationen zum EU finanzierten ERASMUS+ Projekt VOIL - Virtual Open Innovation Lab:

Zur Webseite des Projekts VOIL

Ende Juni 2022 wurde das Erasmus+ Projekt „Collaborative development of AI capabilities in SMEs” (CoDeAI) genehmigt, das unter der Führung der Universität Graz mit Partnern aus Deutschland, Griechenland, Portugal und Spanien eingereicht wurde. Prof. Stefan Thalmann und Johannes Zeiringer griffen das bereits vergangene VOIL-Projekt auf und initiierten ein Folgeprojekt, gemeinsam mit den Partnern.

Das Projekt zielt darauf ab, auf der VOIL-Plattform aufzubauen, indem es Weiterentwicklungen vorschlägt und einen Mehrwert für KMU bietet. Im Laufe des VOIL-Projekts hat sich herausgestellt, dass Studenten, die zukünftige Mitarbeiter von KMU sind, Wissen über neue Künstliche Intelligenz (KI)-Technologien benötigen. KI ist eine der Schlüsseltechnologien des digitalen Wandels, die enorme Verbesserungen in der Fertigungs- und Dienstleistungsbranche ermöglicht und ein wichtiger Wegbereiter für datengesteuerte Geschäftsmodelle ist. Große Unternehmen haben bereits KI-Kapazitäten aufgebaut und profitieren von verbesserten Geschäftsprozessen und neuen datengesteuerten Geschäftsmodellen. Kleinst-, kleine und mittlere Unternehmen (KMU) hinken hinterher, da sie nicht in der Lage sind, die erforderlichen KI-Kapazitäten aufzubauen, was enorme Auswirkungen auf ihre Innovationskraft und damit ihre Zukunftsaussichten hat. Mit der zunehmenden Verbreitung von KI-gestützten Werkzeugen in allen Geschäftsbereichen müssen die KMU diese Zusammenhänge zunehmend verstehen, die notwendigen Anstrengungen unternehmen und diese Technologien übernehmen. Daher ist es wichtig, dass bereits Studierende als mögliche zukünftige Mitarbeiter oder Gründer von KMU mit KI-Fähigkeiten ausgebildet werden. Im Projekt wird eine erste Fallstudienforschung wird durchgeführt, um nach "europäischen" Mustern für die erfolgreiche Einführung innovativer Technologien zu suchen. Die Ergebnisse der Fallstudien sind sowohl für KMU als auch für Studierende von Bedeutung.

Das vorgeschlagene Projekt wird länderübergreifend mit Hochschulpartnern, Studenten und KMU in ganz Europa durchgeführt, um die Zusammenarbeit zwischen Hochschuleinrichtungen, die über KI-Kenntnisse verfügen, und KMU, die KI-Fähigkeiten aufbauen müssen, zu erleichtern. Daher wollen wir die identifizierten Herausforderungen wie folgt angehen: (1) Die bestehende VOIL-Plattform wird um ein Schulungspaket für KI in KMU erweitert, das die grundlegenden KI-Kenntnisse vermittelt. (2) Auf der Grundlage einer Studie über den Einsatz von KI in KMU unter Verwendung aktueller Produktivitätswerkzeuge, die die menschliche Produktivität steigern sollen, wie AutoML, werden Anwendungsfälle und Erfolgsgeschichten vorgestellt, (3) auf der Grundlage dieser Anwendungsfälle und Erfolgsgeschichten wird ein Benchlearning-Rahmen entwickelt, der die KI-Fähigkeiten berücksichtigt, und (4) es wird ein Innovationsumfeld geschaffen, das die Zusammenarbeit zwischen Hochschulen, KMU und LEs unterstützt, wobei (neben den VOIL-Technologien) auch die spezifischen Bedürfnisse der KI berücksichtigt werden.

Startschuss für das zweijährige Projekt war der 01. Oktober 2022.

Mit dem Ziel einen Anforderungskatalog für den erfolgreichen Einsatz von KI in der Personalauswahl zu erstellen, wurden im Rahmen des Projekts „Die Anwendung Künstlicher Intelligenz (KI) in der Personalauswahl: Anforderungen zur Nachvollziehbarkeit von Entscheidungen und Vertrauensbildung“ (kurz: KI in der Personalauswahl) eine Interviewstudie mit österreichischen Personalverantwortlichen, eine Fragebogenstudie zur Wahrnehmung von KI sowie eine Design- und Experimentstudie mit einem Visualisierungsprototypen durchgeführt. Die Projektergebnisse wurden in Form eines Forschungsberichts festgehalten, welcher nun vom AMS Österreich (Fördergeber) veröffentlicht wurde. Über diesen Link kommen Sie zum Forschungsbericht des Projektes.

Das Projektteam umfasst MitarbeiterInnen des Fachbereichs Arbeits- und Organisationspsychologie sowie dem Zentrum für Sozialforschung an der Universität Graz, wobei die ProjektmitarbeiterInnen am BANDAS-Center Prof. Stefan Thalmann, Dr. Jürgen Fleiß und Christine Malin sind.

Im Rahmen dieses Forschungsprojekts werden die Auswirkungen und Herausforderungen der Automatisierung von maschinellem Lernen (AutoML) untersucht. AutoML ermöglicht es Fachexpert:innen ohne tiefgehende Kenntnisse in maschinellem Lernen (ML), spezifische Modelle für ihre Anwendungsfälle zu erstellen, was die Nutzung von ML in Unternehmen revolutionieren könnte. Diese Technologie wirft jedoch auch ethische Fragen auf, da AutoML von Laien bedient werden kann, was Risiken verschärft und die Kontrolle erschwert. Das Projekt erfasst den Einsatz von AutoML in der steirischen Wirtschaft, analysiert Risiken und Potenziale und entwickelt ein Bewusstseinsbildungstool (Ethik-Kompass) für eine verantwortungsvolle Nutzung.

Die Steiermark ist Vorreiterin in der Pflege von Menschen mit Demenz. Eine zeitige Früherkennung und gezieltes Training durch AI-gestützte Neurotechnologien können Betroffene, Angehörige und Pflegepersonal unterstützen. Sie setzen am Gehirn an und ermöglichen es Betroffenen länger selbstbestimmt zu leben. Beim Einsatz von Neurotechnologien ist die Wahrung der Menschenwürde zentral. Dieses interdisziplinäre Forschungsprojekt erforscht die ethischen, psychischen, rechtlichen und gesellschaftlichen Chancen und Risiken von Neurotechnologien und formuliert Empfehlungen für steirische Akteur:innen.