Was ist Deep Learning?

Deep Learning ist ein Teil­be­reich des Machine Learnings, bei dem Computer große Da­ten­men­gen mithilfe von neu­ro­na­len Netzen ver­ar­bei­ten, die dem mensch­li­chen Gehirn nach­emp­fun­den sind.

Beim Deep Learning steht vor allem der selbst­stän­di­ge Lern­pro­zess dieser neu­ro­na­len Netze im Vor­der­grund. Sie bestehen aus einer Ein­gangs­schicht, einer oder mehreren Mit­tel­schich­ten (Layern) und einer Aus­gangs­schicht. In­for­ma­tio­nen treffen als Eingabe-Vektor auf die Ein­gangs­schicht, werden über künst­li­che Neuronen in den mittleren Schichten gewichtet und schließ­lich wird ein be­stimm­tes Muster auf der Aus­gangs­schicht aus­ge­ge­ben. Je mehr Schichten ein künst­li­ches neu­ro­na­les Netz enthält, desto komplexer können die Aufgaben sein, die die künst­li­che In­tel­li­genz bewältigt.

Wie funk­tio­niert Deep Learning? - Beispiel Bil­der­ken­nung

Sollen Bilder danach sortiert werden, ob darauf Hunde, Katzen oder Menschen zu sehen sind, ist das für Computer eine her­aus­for­dern­de Aufgabe. Denn was für Menschen un­mit­tel­bar bei der Be­trach­tung klar ist, muss sich der Computer erst durch die Analyse einzelner Bild­merk­ma­le er­schlie­ßen.

Beim Deep Learning wird die Roh­da­ten­ein­ga­be, in diesem Fall das Bild, Schicht für Schicht ana­ly­siert. In einer ersten Schicht eines künst­li­chen neu­ro­na­len Netzes prüft das System bei­spiels­wei­se, welche Farben die einzelnen Bildpixel aufweisen. Jeder Bildpixel wird über ein eigenes Neuron ver­ar­bei­tet. In der folgenden Schicht werden Kanten und Formen iden­ti­fi­ziert und in der dar­auf­fol­gen­den Schicht wird auf kom­ple­xe­re Merkmale geprüft.

Die ge­sam­mel­ten In­for­ma­tio­nen werden in einem flexiblen Al­go­rith­mus ab­ge­bil­det. Die Er­geb­nis­se einer Schicht werden dabei jeweils in die Fol­ge­schicht wei­ter­trans­por­tiert und verändern den Al­go­rith­mus. So ist der Computer in der Lage, durch eine Vielzahl von Ope­ra­tio­nen schließ­lich zu ent­schei­den, ob ein Bild der Kategorie Hund, Katze oder Mensch zu­zu­ord­nen ist.

Zu Beginn steht ein Training, in dem Zu­ord­nungs­feh­ler durch Menschen kor­ri­giert werden. Dadurch wird der Al­go­rith­mus angepasst. Nach kurzer Zeit kann er seine Bil­der­ken­nung ei­gen­stän­dig ver­bes­sern. Indem die Ver­knüp­fung zwischen den Neuronen des Netzwerks verändert und die Ge­wich­tung von Variablen innerhalb des Al­go­rith­mus angepasst wird, führen bestimmte Ein­ga­be­mus­ter (Kat­zen­bil­der in diversen Varianten) immer feh­ler­frei­er zu denselben Aus­ga­be­mus­tern (Katze erkannt). Je mehr Bild­ma­te­ri­al dem System zum Lernen vorliegt, desto besser.

Für Menschen lässt sich beim Deep Learning nicht immer nach­voll­zie­hen, welche Muster der Computer erkannt hat, um zu seinen Ent­schei­dun­gen zu kommen. Zumal das System seine Ent­schei­dungs­re­geln kon­ti­nu­ier­lich selbst optimiert.

Historie des Deep Learnings

Deep Learning als Begriff ist zwar relativ jung – er wurde um 2000 erstmals erwähnt –, doch die Methode, künst­li­che neuronale Netze zu verwenden, um Computer zu in­tel­li­gen­ten Ent­schei­dun­gen zu befähigen, ist viele Jahr­zehn­te alt.

Die Grund­la­gen­for­schung in dem Bereich reicht zurück bis in die 1940er-Jahre. Künst­li­che neuronale Netze wurden erstmals in den 1980er-Jahren ent­wi­ckelt. Doch die Qualität der Ent­schei­dun­gen war damals ent­täu­schend. Denn das ei­gen­stän­di­ge Lernen der Maschinen, das Deep Learning, benötigt große Da­ten­men­gen. Genau diese waren damals digital jedoch noch nicht verfügbar. Erst um die Jahr­tau­send­wen­de begann das Zeitalter von Big Data, wodurch das Interesse von Wis­sen­schaft und Wirt­schaft an Deep Learning wieder auf­flamm­te.

Stärken und Schwächen

Deep Learning ist im Vergleich zu früheren KI-Tech­no­lo­gien deutlich leis­tungs­fä­hi­ger. Doch ehe die Tech­no­lo­gie ihr volles Potenzial entfalten kann, müssen noch einige Schwächen beseitigt werden.

Stärken des Deep Learnings

Eines der wich­tigs­ten Argumente ist die Qualität der Er­geb­nis­se. Gerade in der Bil­der­ken­nung und der Sprach­ver­ar­bei­tung ist die Tech­no­lo­gie allen anderen klar überlegen. Hoch­wer­ti­ge Trai­nings­da­ten vor­aus­ge­setzt, kann Deep Learning Rou­ti­ne­ar­bei­ten deutlich ef­fi­zi­en­ter und schneller als jeder Mensch ausführen – und das ganz ohne Er­mü­dungs­er­schei­nun­gen und in gleich­blei­ben­der Qualität.

Bei anderen Formen des ma­schi­nel­len Lernens ana­ly­sie­ren Ent­wick­le­rin­nen und Ent­wick­ler die Rohdaten und de­fi­nie­ren re­gel­mä­ßig zu­sätz­li­che Features, die der Al­go­rith­mus beim Lernen be­rück­sich­ti­gen soll, um die Vor­her­sa­ge­kraft der KI zu ver­bes­sern. Beim Deep Learning erkennt das System selbst nützliche Variablen und bindet sie in seinen Lern­pro­zess ein. Es kann nach einer initialen Schulung ohne mensch­li­che Anleitung lernen. Das spart Zeit und Kosten. Denn es wird kein fachlich ver­sier­tes Personal für die Feature-Ent­wick­lung benötigt.

Um ma­schi­nel­les Lernen zu er­mög­li­chen, mussten bisher große Mengen von Daten manuell ge­kenn­zeich­net werden. Bei der Bil­der­ken­nung wurden bei­spiels­wei­se Mit­ar­bei­ten­de benötigt, die Bildern das Label Hund oder Katze zuwiesen. Bei Deep Learning fällt das manuelle Training we­sent­lich kürzer aus. Das ist vor allem deshalb relevant, weil in der un­ter­neh­me­ri­schen Praxis zwar große Da­ten­men­gen an­ge­sam­melt werden, diese jedoch nur in den wenigsten Fällen als struk­tu­rier­te Daten vorliegen (Te­le­fon­num­mern, Adresse, Kre­dit­kar­ten etc.). Meist sind sie als un­struk­tu­rier­te Daten ge­spei­chert (Bilder, Dokumente, E-Mails etc.). Anders als al­ter­na­ti­ve Methoden des Machine Learnings kann Deep Learning ver­schie­de­ne Quellen un­struk­tu­rier­ter Daten mit Blick auf die angelegte Auf­ga­ben­stel­lung auswerten.

Das Argument, dass die Tech­no­lo­gie zu kost­spie­lig in der Anwendung ist, als dass sie sich als mas­sen­taug­lich erweist, verliert seine Kraft. Zunehmend entstehen Services wie Googles Vision oder IBMs Watson, die es Un­ter­neh­men erlauben, auf vor­han­de­ne neuronale Netze auf­zu­bau­en, statt diese von Grund auf ent­wi­ckeln zu müssen. Damit wird Deep Learning seine Stärken in Zukunft mehr und mehr in der Un­ter­neh­mens­pra­xis aus­spie­len können.

Stärken auf einen Blick

• Bessere Er­geb­nis­se als mit anderen Methoden des Machine Learnings
• Keine Feature-Ent­wick­lung und kein Da­ten­la­be­l­ing nötig
• Ef­fi­zi­en­te Er­le­di­gung von Rou­ti­ne­ar­bei­ten ohne Qua­li­täts­schwan­kun­gen
• Pro­blem­lo­ser Umgang mit un­struk­tu­rier­ten Daten
• Zunehmend Services zur ver­ein­fach­ten Nutzung künst­li­cher neu­ro­na­ler Netzwerke

Schwächen des Deep Learnings

Deep Learning erfordert enorm viel Re­chen­leis­tung. Diese ist dabei maß­geb­lich von der Kom­ple­xi­tät und Schwie­rig­keit der zu lösenden Aufgabe und der Größe des ver­wen­de­ten Da­ten­sat­zes abhängig. Das machte die Tech­no­lo­gie bisher teuer und nur für Forschung und wenige Me­ga­kon­zer­ne ein­setz­bar.

Zwar sind hier Fort­schrit­te zu be­ob­ach­ten. Was sich in ab­seh­ba­rer Zukunft jedoch nicht ändern wird, ist die Tatsache, dass Ent­schei­dun­gen, die von Deep Learning gefällt werden, für Menschen nicht mehr de­tail­liert nach­voll­zieh­bar sind. Das neuronale Netz ist (bisher) eine Blackbox. Für einige An­wen­dungs­fäl­le, bei denen Nach­voll­zieh­bar­keit ent­schei­dend ist, ist die Tech­no­lo­gie daher ir­rele­vant.

Damit Deep Learning überhaupt funk­tio­niert, werden große Sätze von Trai­nings­da­ten benötigt. Stehen diese Da­ten­men­gen nicht zur Verfügung, können Computer mithilfe von Deep Learning bisher keine guten Er­geb­nis­se liefern. Zwar werden erste Bi­blio­the­ken für neuronale Netze ver­öf­fent­licht, die die Anwendung von Deep Learning für die breitere Masse ver­ein­fa­chen. Doch nicht für jeden An­wen­dungs­fall sind die Services geeignet, sodass die Ent­wick­lung von Lern­al­go­rith­men für Deep Learning weiterhin ein hohes Zeit­in­vest­ment erfordert und po­ten­zi­ell mehr Zeit benötigt als die Ver­wen­dung al­ter­na­ti­ver Methoden.

Schwächen auf einen Blick

• Erfordert hohe Re­chen­leis­tung
• Ent­wick­lung von Lern­al­go­rith­men braucht ver­hält­nis­mä­ßig viel Zeit
• Große Da­ten­ba­sis ist notwendig
• Mehr Trai­nings­da­ten als bei anderen Methoden des Machine Learnings er­for­der­lich
• Ent­schei­dun­gen kaum oder gar nicht nach­voll­zieh­bar (Black Box)

Ein­satz­ge­bie­te für Deep Learning

Deep Learning wird bereits in ver­schie­de­nen Branchen ein­ge­setzt und wird in Zukunft noch in deutlich mehr Bereichen unseres Alltags an­zu­tref­fen sein.

• User Ex­pe­ri­ence: Einige Chatbots werden bereits über Deep Learning optimiert und nutzen Natural Language Pro­ces­sing, sodass sie besser auf Kun­den­an­fra­gen reagieren können und den mensch­li­chen Kun­den­sup­port entlasten.
• Sprach­as­sis­ten­ten: Deep Learning kommt, wie erwähnt, in diversen Sprach­as­sis­ten­ten wie Alexa, Google Assistant oder Siri in Form von Speech Synthesis zum Einsatz. Sie erweitern ei­gen­stän­dig ihren Wort­schatz und ihr Sprach­ver­ständ­nis.
• Über­set­zun­gen: Mit Deep-Learning-Über­set­zern wie DeepL können hoch­wer­ti­ge Über­set­zun­gen an­ge­fer­tigt werden. Dank der Tech­no­lo­gie können auch Dialekte und Texte auf Bildern au­to­ma­tisch in andere Sprachen über­tra­gen werden.
• Tex­terstel­lung: LLMs wie ChatGPT können mithilfe von Deep Learning Texte erstellen, die nicht nur in Grammatik und Recht­schrei­bung korrekt sind, sondern auch den Stil eines Autors nachahmen – vor­aus­ge­setzt, sie erhalten genug Trai­nings­ma­te­ri­al. In ersten Versuchen er­stell­ten KI-Systeme dank Deep Learning Artikel für Wikipedia und täuschend echte Shake­speare-Texte.
• Cy­ber­si­cher­heit: KI-Systeme mit Deep Learning sind besonders geeignet, um Un­re­gel­mä­ßig­kei­ten in Sys­tem­ak­ti­vi­tä­ten fest­zu­stel­len. Sie können so auf mögliche Ha­cker­an­grif­fe auf­merk­sam machen.
• Finanzen: Die Fähigkeit, Anomalien zu erkennen, lässt sich im sensiblen Bereich der Fi­nanz­trans­ak­tio­nen besonders gut einsetzen. Wird der Al­go­rith­mus ent­spre­chend trainiert, können so Angriffe auf Ban­ken­netz­wer­ke und Kre­dit­kar­ten­be­trug wirksamer als bisher abgewehrt werden.
• Marketing und Vertrieb: KI-Systeme können mithilfe von Deep Learning Sentiment-Analysen durch­füh­ren und ei­gen­stän­dig de­fi­nier­te Maßnahmen ergreifen, um die Kun­den­zu­frie­den­heit wie­der­her­zu­stel­len.
• Autonomes Fahren: Dass Autos ohne mensch­li­che Fahrende sicher am Stra­ßen­ver­kehr teil­neh­men, ist immer noch eine Zu­kunfts­vi­si­on. Doch die Tech­no­lo­gie existiert. In ihr werden ver­schie­de­ne Deep-Learning-Al­go­rith­men kom­bi­niert: Ein Al­go­rith­mus erkennt bei­spiels­wei­se Ver­kehrs­schil­der, ein anderer ist darauf spe­zia­li­siert, Fußgänger zu orten.
• Industrie-Roboter: Roboter mit Deep-Learning-KIs könnten in vielen In­dus­trie­be­rei­chen ein­ge­setzt werden. Allein durch Be­ob­ach­ten eines Menschen könnten die Systeme lernen, wie sie Maschinen bedienen müssen, und sich dann selbst op­ti­mie­ren.
• Main­ten­an­ce: Vor allem im Bereich der in­dus­tri­el­len Wartung bieten sich wichtige Ein­satz­mög­lich­kei­ten. Bei komplexen Anlagen müssen eine Vielzahl von Pa­ra­me­tern kon­ti­nu­ier­lich überwacht werden. Deep Learning könnte außerdem Prognosen abgeben, welche Einheiten eines Systems bald zu warten sind (Pre­dic­ti­ve Main­ten­an­ce).
• Medizin: Deep-Learning-KIs können Bilder we­sent­lich genauer nach Anomalien scannen als ein mensch­li­ches Auge, selbst ein ge­schul­tes. Auf CT- oder Röntgen-Bildern können mithilfe der in­tel­li­gen­ten Systeme so früher als bisher Krank­hei­ten erkannt werden.

Deep Learning: Großes Potenzial, aber keine Uni­ver­sal­lö­sung

Im öf­fent­li­chen Diskurs entsteht teilweise der Eindruck, als sei Deep Learning die einzige Zu­kunfts­tech­no­lo­gie für KI. Tat­säch­lich er­mög­licht Deep Learning für viele An­wen­dungs­fäl­le deutlich bessere Er­geb­nis­se als bisherige Verfahren.

Doch Deep Learning ist nicht für jedes Problem die beste tech­no­lo­gi­sche Lösung. Es gibt andere Her­an­ge­hens­wei­sen, um Computer „in­tel­li­gent“ zu machen – Lösungen, die auch mit kleineren Da­ten­sät­zen arbeiten und bei denen Menschen die Ent­schei­dungs­we­ge nach­voll­zie­hen können.

Einige KI-Forscher be­trach­ten Deep Learning als vor­über­ge­hen­des Phänomen und sind überzeugt, dass sich bessere Ansätze finden werden, die sich nicht am mensch­li­chen Gehirn ori­en­tie­ren. Dass die kri­ti­schen Stimmen nicht zu ver­nach­läs­si­gen sind, zeigt Googles Un­ter­neh­mens­stra­te­gie: Dort ist Deep Learning nur ein Teil der KI-Strategie. Daneben verfolgt man weitere Methoden des ma­schi­nel­len Lernens sowie die Ent­wick­lung von Quan­ten­com­pu­tern.