Peter Ganten von Univention über Künstliche Intelligenz und Transparenz

Videoblog: „Die KI hält für uns Menschen großes Potential bereit“

Peter Ganten ist Gründer und Geschäftsführer der Univention GmbH aus Bremen, einem Software-Hersteller für Server- und Identitätsmanagement. Er ist bekennender Open-Source- und KI-Begeisteter, worüber ich mit ihm im folgenden Skype-Interview ausführlich gesprochen habe. Exklusive Einblicke in einen für Univention interessanten und aufstrebenden Bereich.

Herausforderung oder Risiko – das ist hier die KI-Frage

Über eines ist sich Herr Ganten völlig im Klaren: Die Künstliche Intelligenz mit all ihren Möglichkeiten und technischen Disziplinen hält ein unglaubliches Potential für uns Menschen und die Menschheit an sich bereit. Hier steht zum Beispiel die Medizin im Fokus, wo mithilfe der KI auf Patienten individuell zugeschnittene Medikamente möglich sind, aber auch die Früherkennung von Krankheiten verbessert werden kann. Zudem wird der Energiesektor von der KI maßgeblich profitieren genauso wie das Bildungswesen, das SchülerInnen und StudentInnen ganz neue Möglichkeiten an die Hand geben wird.

Gleichzeit können und werden neue KI-basierte Ansätze dafür sorgen, dass uns tendenziell monotone Aufgaben abgenommen werden. Die Rede ist vom Autonomen Fahren, das uns vom lästigen Steuern eines PKW befreit und wir stattdessen die Fahrt mit dem Auto für andere, sinnvollere Dinge nutzen können.

Aber, und auch da ist Herr Ganten ganz klar, dürfen wir nicht so naiv sein und glauben, dass die KI ausschließlich zum Wohle der Anwender genutzt werden kann. Daher sind wir alle dazu aufgefordert, richtig hinzusehen und die richtigen Fragen zu stellen, die sich rund um das Thema Künstliche Intelligenz ranken.

Ethik und Künstliche Intelligenz bedingen einander

So lautet eine der drängenden Fragen zum Thema KI aus Sicht von Herrn Ganten: Wie schützen wir uns bestmöglich vor Manipulationen? Dies kann zum Beispiel mithilfe von größtmöglicher Transparenz vermieden werden. Denn immer dann, wenn Algorithmen, Daten und andere Faktoren nicht öffentlich zugänglich sind, sind der Manipulation Tür und Tor geöffnet. So muss man sich ohne genaue Einblicke in KI-Anwendungen stets darauf verlassen, dass damit auch das gemacht wird, wozu die KI-Applikation eigentlich konzipiert wurde – und nicht etwa das Gegenteil davon.

Daher lautet eine der ethischen Forderungen: Die KI muss jederzeit öffentlich und nachprüfbar sein, und Unternehmen müssen sicher stellen, dass die vorhandenen Daten stets zum Wohle der Anwender und der Menschen eingesetzt werden.

Mit der Anwendung von KI nehmen die Risiken der „Erpressbarkeit“ zu

In einem seiner zahlreichen Vorträge spricht Herr Ganten von der „Erpressbarkeit der Anwender“, die im Kontext von KI eine ernstzunehmende Herausforderung darstellt. Gemeint sind damit Unternehmen und Organisationen, die auf die KI-Algorithmen von Cloud Service Providern zurückgreifen und dabei oft hochsensible Daten zu Verarbeitungszwecken bereitstellen.

So wird beispielsweise im Falle von Microsoft Office 365 jede Interaktion genauesten aufgezeichnet. Damit ist bekannt, welche Anwender mit welchen Applikationen arbeiten, welche Daten dabei mit anderen geteilt werden, und so fort. Das kann dazu führen, dass sich diese Daten mit anderen Daten in geeigneter Art und Weise verknüpfen lassen. So ließen sich beispielsweise die fachlichen Fertigkeiten bestimmter Anwender via LinkedIn an Recruiter oder andere Personen  transferieren, ohne dass der Arbeitgeber dieser Mitarbeiter Kenntnis davon erhält.

Und genau diese Möglichkeiten können letztlich dazu führen, dass Anbieter wie Microsoft neue Geschäftsmodelle entwickeln, die Unternehmen gegen Bezahlung garantieren, dass ihre in der Cloud bekannten Daten nicht für andere Zwecke missbraucht werden.

Open Source-Anwendungen stellen einen Ausweg aus dem Transparenzdilemma dar

Für ein Höchstmaß an Transparenz und Zuverlässigkeit entwickelt Univention sämtliche Lösungen als Open Source-Produkte, was den Nutzern diverse Vorteile bietet. So wissen die Kunden von Herrn Ganten jederzeit, was dort stattfindet, Programme lassen sich weiterentwickeln, und so fort. Das erhöht das Vertrauen in die Firma, was sich auf zahlreiche Bereiche positiv auswirkt. Dazu gehört das Thema Sicherheit, aber auch Innovationen werden damit gefördert, da quelloffene Systeme und Anwendungen relativ frei sind von vorgegebenen Update-Zyklen, proprietären Schnittstellen und vielem mehr.

Das Interview mit Peter Ganten in vollständiger Länge

Disclaimer: Für diesen Videoblogbeitrag hat mich die Firma ChannelBuzz beauftragt.

Cloud-Verschlüsselung ist vor allem in Zeiten der DSGVO enorm wichtig

So lassen sich Cloud-Daten sicher verschlüsseln

Die Datenschutzgrundverordnung (DSGVO) zwingt Anbieter von Cloud-Services zu einem verantwortungsvollen Umgang mit den Daten ihrer Kunden. Dazu gehören diverse Grundsätze, von denen in diesem Beitrag die wichtigsten drei vorgestellt werden sollen.

Grundsatz #1: Open-Source-Software steht für transparente Transaktionen

Von Cloud-Anbietern wie luckycloud wird von deren Anwendern und Kunden eine erhöhte Transparenz erwartet, gerade wegen DSGVO und Co. Das bedingt unter anderem den Einsatz von transparenter Software, was nicht in jedem Fall gegeben ist. Daher setzt zum Beispiel luckycloud auf die Open-Source-Software Seafile. Damit lassen sich innerhalb einer Private Cloud-Umgebung Daten speichern, teilen und synchronisieren.

Der wesentliche Vorteil dieses Ansatzes liegt im Öffentlichmachen der Software: Da der Quellcode für jedermann zugänglich und einsehbar ist, lassen sich darin keine geheimen Software-Funktionen verstecken, wie beispielsweise einen Staatatrojaner oder ähnliche Backdoor-Möglichkeiten. Denn damit wäre unerwünschten Gästen Tor und Tür geöffnet, was das Aus für solch einen Cloud-Anbieter bedeuten würde. Das Einzige, was dank Seafile und Co. geheim bleibt, sind die Schlüssel, mit denen die Cloud-Daten ver- und entschlüsselt werden (siehe Grundsatz #3).

Grundsatz #2: Robuste und erprobte Techniken helfen bei der Abwehr von Angriffen 

Selbst unerfahrene Anwender mögen schon einmal vom Begriff „Man-in-the-Middle-Angriff“ gehört haben. Dabei handelt es sich um eine Hackerattacke von außen (oder innen) eines Unternehmens, der mit bestimmten illegalen Hilfsmitteln die Kommunikation zwischen zwei Rechnern belauscht, um so an Informationen zu gelangen, um diese beispielsweise zu manipulieren.

Die Verbindung zwischen einem Anwender und einem Cloud-Server gehört zu einem dieser beliebten Angriffsziele. Vor allem dann, wenn der gewählte Kommunikationskanal nicht ausreichend gegen das „Mithören“ abgesichert wird. Daher setzen verantwortungsbewusste Cloud-Anbieter wie luckycloud auf das robuste TLS-Protokoll (Transport Layer Security) ein, was die Verschlüsselungstechnik des HTTPS-Webprotokolls ist. Diese Technik verschlüsselt die Kommunikation zwischen Anwender und Server vollständig, allerdings auch nicht mehr. Wichtig ist hierbei nicht unbedingt der Einsatz von teuer gekauften  Zertifikaten, die  von entsprechenden Stellen vergeben werden. 

Denn teuer ist nicht gleichbedeutend mit sicher. So stellt ein kostenlos erhältliches Zertifikat von Let’s Encrypt vollkommen sicher, dass die Verbindung zwischen Browser und Server verschlüsselt ist. Zudem existieren sogenannte EV-Zertifikate (Extended Validation), mit deren Hilfe die zugehörige Zertifizierungsstelle die reale Existenz einer Firma überprüfen und bestätigen kann.

Grundsatz #3: Durchgängige Verschlüsselung sorgt für höchstmögliche Sicherheit

Für eine höchstmögliche Sicherheit kommt es neben der transparenten Software und der richtigen Verschlüsselung der Datentransportwege auf das Verschlüsseln der Daten selbst an. Wie im Falle der luckycloud, bei der dank des Einsatzes von Seafile die kostbaren Daten auf zweierlei Wegen gegen den Diebstahl von außen (oder innen) geschützt werden: durch Verschlüsselung auf Client- als auch auf Serverseite.

Das bedeutet konkret, dass zum einen die Daten bereits dann verschlüsselt werden, bevor sie überhaupt auf dem Cloud-Server landen. Und dort werden sie nicht wieder entschlüsselt, sondern bleiben in verschlüsselter Form dort liegen. Damit haben nur die Anwender mit den passenden Zugangsdaten und Schlüsseln Zugriff auf die Daten, also nicht einmal der Cloud-Anbieter.

Zum Ver- und Entschlüsseln kommt übrigens der symmetrische, blockbasierte AES256-Verschlüsselungsalgorithmus zum Einsatz, der als sehr sicher gilt. Hierbei wird oft die sogenannte CBC-Methode (Cipher Block Chaining) eingesetzt, die das Verschlüsseln der Daten noch ein gutes Stück zuverlässiger macht. Mehr Sicherheit kann man seinen Cloud-Daten kaum angedeihen lassen. 

Disclaimer: Diesen Blogbeitrag habe ich im Auftrag von luckycloud erstellt und veröffentlicht.

Dagmar Schuller von der audDEERING GmbH

[Videoblog] Dagmar Schuller, audEERING, über openSMILE und sensAI

Dieses Interview habe ich mit CEO und Co-Gründerin Dagmar Schuller des Startup-Unternehmens audEERING aus Gliching bei München geführt. Darin spricht sie über die Open-Source-Software openSMILE und was diese mit audEERING zu tun hat. Und was es mit sensAI auf sich hat, erfahrt ihr in diesem Video ebenfalls.

openSMILE ist der „Grundstein“ der Firma audEERING

Ohne die Open-Source-Software openSMILE gäbe es die Firma audEERING wohl eher nicht. Denn mit dieser Eigenentwicklung der TU München schafft das Startup-Unternehmen rund um Dagmar Schuller all die Produkte, die man derzeit bereits am Markt sieht – und die künftig noch folgen werden.

Bei openSMILE handelt es sich um einen sogenannten Feature Extractor, mit dem sich eine Vielzahl von Emotionen in gesprochener Sprache erkennen lassen. Also egal, wie traurig, wütend oder glücklich ein Mensch gerade ist, openSMILE erkennt anhand bestimmter Parameter ziemlich genau, in welcher emotionalen Verfassung der Sprecher (oder Sänger) sich gerade befindet.

Das lässt sich sehr gut anhand des folgenden Videos erkennen, in dem openSMILE die wichtigsten emotionalen Parameter dem gesprochenen Wort zuordnet und daraus die Grundstimmung ableitet. Und das, wie ihr sehen könnt, macht die Software ziemlich gut.

Doch openSMILE kommt nicht nur bei audEERING selbst zum Einsatz. So wurde die Software bereits mehr als 50.000-mal von diversen Forschungszentren und anderen Anwendern von der audEERING-Seite geladen, um die Fähigkeiten des Feature Extractors in eigenen Projekten nutzen zu können. Selbstverständlich gibt es auch eine kommerzielle Lizenz, die sich direkt über audEERING beziehen lässt.

openSMILE erkennt an die 6.000 Merkmale

Bei openSMILE handelt es sich laut Frau Schuller um ein sehr variables System mit einem bereits sehr großen Featureset. Soll heißen, dass die Open-Source-Software an die 6.000 unterschiedlichsten emotionalen Zustände erkennen kann. Dabei kommt openSMILE in zwei Ausprägungen zum Einsatz: Entweder als Cloud-Service oder direkt auf dem Gerät, auf dem die Audiodateien entstehen. Der große Vorteil hierbei: Dank der hohen Rechenleistung der aktuellen Smartphones, Tablets und Smartwatches kann openSMILE das gesprochene Wort quasi in Echtzeit analysieren und die zugrundeliegenden Emotionen darstellen. Ohne dass dabei irgendwelche Daten das Gerät verlassen. Ein in Zeiten von DSGVO und Co. nicht zu unterschätzender Vorteil.

Von „Singing Voice Detection“ bis Vogelstimmen: openSMILE hat einiges zu bieten

Neben den sprachlichen Fähigkeiten hat openSMILE auch ein hohes musikalisches Talent vorzuweisen. Dies spiegelt sich zum Beispiel in sensAI Music wider, dem audEERING-Produkt für den Musik- und Videomarkt. So kommt beispielsweise die Funktion „Singing Voice Detection“ im Bereich Internetradio zum Einsatz. Dort bestimmt openSMILE selbstständig anhand des aktuellen Stücks, dass der Solopart für das Einstreuen eines kurzen Werbejingles bestens geeignet wäre. Aber auch für Vogelkundler ist openSMILE sehr interessant, da es für die genaue Bestimmung von Vogelstimmen und den zugehörige Vogelarten geeignet ist.

Das leistet sensAI im Allgemeinen

sensAI ist quasi das Frontend zu openSMILE und fasst je nach Ausprägung die zahlreichen Merkmale der Software unter einer einheitlichen Bedieneroberfläche zusammen. Hierbei kann man sich als Anwender entweder für die Web-API oder den Embedded Service entscheiden, je nach bevorzugter Integration von sensAI und openSMILE. In diesem Kontext kommen auch diverse Machine-Learning-Algorithmen zum Einsatz, die dafür sorgen, dass openSMILE und die zugrundeliegende Anwendung schlauer und schlauer wird.

sensAI gibt es derzeit in vier Ausprägungen: senAI Base, senAI Enhance, sensAI Emotion und sensAI Music.

sensAI von audEERING gibt es derzeit in vier Ausprägungen

Das vollständige Interview mit Dagmar Schuller