Wie sicher ist Maschinelles Lernen?

    -     English
Wie sicher ist Maschinelles Lernen? Zur Beantwortung dieser Frage werden noch St

Wie sicher ist Maschinelles Lernen? Zur Beantwortung dieser Frage werden noch Studienteilnehmerinnen und Studienteilnehmer gesucht. Bildquelle: Fraunhofer-Institut für Sichere Informationstechnologie SIT

Studie der Freien Universität, der Fraunhofer-Institute für Angewandte und Integrierte Sicherheit AISEC und für Sichere Informationstechnologie SIT und des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE / Teilnehmer gesucht

Welchen Stellenwert Sicherheit und Privatsphäre bei Maschinellen Lernverfahren haben, untersuchen Wissenschaftlerinnen und Wissenschaftler der Freien Universität Berlin, des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC, des Fraunhofer-Instituts für Sichere Informationstechnologie SIT und des Nationalen Forschungszentrums für angewandte Cybersicherheit ATHENE in einer gemeinsamen Studie. Für das Forschungsprojekt werden noch Teilnehmerinnen und Teilnehmer gesucht, die beruflich oder privat mit Maschinellen Lernverfahren arbeiten.

Um eigene Arbeitsprozesse zu optimieren oder Kundinnen und Kunden mithilfe von Empfehlungssystemen neue Services anzubieten, setzen Unternehmen zunehmend auf Maschinelles Lernen und Künstliche Intelligenz. ,,Solche neuen Tools werden oft schnell konzipiert und umgesetzt. Sicherheitsaspekte kommen dabei oft zu kurz", sagt die Statistikerin Verena Battis vom Fraunhofer SIT. Sie erforscht dort im Rahmen des ATHENE-Projekts Privacy-Risks and Safety in Machine Learning (PRisMa), welche Bedrohungen von maschinellen Lernverfahren für die Privatheit des Einzelnen ausgehen. Bedrohungsszenarien sind der Statistikerin zufolge zum Beispiel Datenklau und die Manipulation von verwendeten Algorithmen und Daten. Besondere Vorsicht sei zudem bei datenschutzrechtlichen Aspekten geboten, erklärt die Informatikerin Franziska Boenisch vom Fraunhofer AISEC: ,,Für das Training von Modellen Maschinellen Lernens oder Künstlicher Intelligenz werden oft Nutzerdaten verwendet. Dabei fehlt jedoch das Wissen insbesondere darüber, wie individuelle Datenpunkte ein Modell beeinflussen und inwieweit diese Datenpunkte von Angreifern wieder aus einem trainierten Modell extrahiert werden können." Ziel des Forschungsprojekts ist es, Erkenntnisse darüber zu gewinnen, inwieweit Aspekte der Sicherheit und Privatsphäre bei Verfahren Maschinellen Lernens in der Praxis berücksichtigt und umgesetzt werden.

Es werden Teilnehmerinnen und Teilnehmer für eine 15-minütige Online-Befragung gesucht, die Maschinelles Lernen beruflich oder privat nutzen:

websites.fraunhofer.­de/ML_security/index.php/149369?Start1=A3 .

Das Foto steht Medien zum Download zur Verfügung und ist bei Verwendung im Kontext der Pressemitteilung und bei Angabe der Quelle honorarfrei.


Diese Website verwendet Cookies und Analysetools, um die Benutzerfreundlichkeit der Website zu verbessern. Weitere informationen. |