Deep Learning: technologia, która odwzorowuje funkcje ludzkiego mózgu

Deep learning (uczenie głębokie), inaczej deep neural networks to podkategoria technologii opartych na sztucznej inteligencji (AI). Symuluje funkcje poznawcze ludzkiego mózgu i wykorzystuje sieci neuronowe (neural networks) do analizy i interpretacji danych. Deep learning uczy się na podstawie przykładów, stopniowo odkrywając między nimi złożone zależności.

Przymiotnik głębokie odnosi się do wielowarstwowej struktury systemów deep learning, która przypomina opleciony neuronami mózg, w którym poszczególne zespoły neuronów odpowiadają za inne procesy: myślenie abstrakcyjne, przetwarzanie obrazów, rozumienie mowy itd.

Historia deep learning sięga lat 40. i 50. XX wieku. Wtedy to naukowcy zaczęli dostrzegać analogie między strukturą komputera a budową mózgu. W latach 80. i 90. nastąpił duży krok rozwojowy, dzięki udostępnieniu nowszych generacji procesorów (o większej mocy obliczeniowej). Rozwojowi tej technologii sprzyjał również dostęp do dużych zasobów danych treningowych (zaciąganych z baz internetowych).

Obecnie technologia deep learning cały czas jest rozwijana i pomaga w wykonywaniu wielu zadań. Od analizy obrazów w branży medialnej, przez przetwarzanie języka naturalnego w centrach BOK, po diagnozowanie chorób w klinikach i szpitalach.

W 2024 wartość tej technologii wzrosła o 40% w porównaniu z rokiem poprzednim. Potwierdza to, że tempo rozwoju deep learning nie zwalnia.

Podstawą deep learning są sieci neuronowe – matematyczne wielopoziomowe modele, tzw. ukryte warstwy (hidden layer). Każda przetwarza dane na coraz wyższych poziomach abstrakcji, wykrywając określone cechy (np. barwę głosu). Kiedy jedna skończy, przekazuje wyniki do kolejnej itd. Co istotne, wiele informacji reprezentują wektory liczbowe, ponieważ ułatwia to analizę na wyższych rzędach sieci.

Deep learning (DL) jest zaawansowaną formą machine learning (ML – uczenie maszynowe). Jednak w odróżnieniu do niej nie wymaga ręcznego definiowania cech. Deep learning samodzielnie wyodrębnia istotne wzorce z danych i uczy się na błędach. Dzięki temu algorytmy technologii rozwiązują bardziej złożone zadania. Dobrze obrazuje to przykład.

Stworzenie narzędzia ML do analizy proporcji zdjęć twarzy wymaga poza dostępem do dużej puli danych, także jasnego opisania ich wewnętrznej hierarchii (podania wymiarów: uszu, nosa, ust, określenie relacji szerokości między najszerszymi punktami itd.). DL samodzielnie namierza takie informacje.

MLP jest najprostszym rodzajem sieci neuronowych. Każdy neuron łączy się z kolejnym, a po przetworzeniu danych przez jedną warstwę, wyniki są przesyłane do wyższej. MLP stosuje się w bankowości np. do oceny ryzyka spłaty kredytu przez danego klienta. W tym celu należy nakarmić model dużą próbką danych wyciągniętą z historii relacji między bankiem a klientem oraz wykazem wcześniej zaciągniętych kredytów.

CNN służą do analizy dwuwymiarowych danych, m.in. do rozpoznawania struktur 2D, w tym obiektów, tekstur oraz klasyfikacji prostych treści video. Istotną rolę odgrywa w nich tzw. próbkowanie. Dzięki niemu każda warstwa sieci filtruje poszczególne cechy obiektów. Początkowa wykrywa np. krawędzie i proste barwy, kolejna części figur geometrycznych, a najgłębsza rozpoznają całe obrazy. Ponieważ wszystkie poziomy mają mniej parametrów (wykrywają mniej cech) Konwolucyjne Sieci Neuronowe mogą być szybko trenowane.

RNN są przeznaczone do analizy sekwencji danych. Odgrywają kluczową rolę w przetwarzaniu języka naturalnego i badaniu trendów. Przykładem rekurencyjnych sieci neuronowych są sieci typu LSTM (long short memory), które składają się z komórek zawierających 3 dodatkowe bramki (wejściowa, wyjściowa, zapomnij). W efekcie mechanizm szybciej określa, czy dostarczone dane warto zapamiętać.

RL jest najbardziej rozwiniętą formą uczenia głębokiego. Do działania nie wymaga wcześniej przygotowanych danych treningowych, ale wyłącznie kontaktu ze środowiskiem (enviroment). Technologia automatycznie pobiera informacje podczas interakcji ze światem (rzeczywistym lub wirtualnym). Za podjęte decyzje otrzymuje nagrody i kary. RL sprawdza się w grach komputerowych i coraz częściej pomaga w inwestowaniu na giełdzie (analizuje czy ceny akcji wzrosną czy zmaleją).

Algorytmy deep learning automatycznie klasyfikują i identyfikują obiekty na zdjęciach i filmach. Takie systemy zasilają m.in. aplikacje do rozpoznawania twarzy i sylwetki. Dzięki dużej precyzji skutecznie wykrywają szczegóły mimiki twarzy czy przedmiotów (biżuteria, ciuchy itp.).

Technologia uczenia głębokiego jest implementowana  programach do tłumaczeń maszynowych, generowania treści i rozpoznawania mowy. Wdrażana w Chatbotach i dużych modelach językowych, takich jak Bert, pełni funkcję tłumacza czy asystenta głosowego.

Deep learning pomaga w kształtowaniu strategii finansowej. Algorytmy predykcyjne przewidują wydarzenia na giełdzie: spadki, wzrosty czy krachy. Wykrywają też oszustwa finansowe. Jednym słowem, minimalizują ryzyko strat finansowych.

Uczenie głębokie przyspiesza diagnozowanie chorób. Algorytmy analizują zachowanie pacjentów, śledzą zmiany organiczne oraz wyszukują symptomy wskazujące na konkretną dolegliwość. Informują też o ewentualnych kierunkach jej rozwoju. Dzięki temu lekarze mogą zawęzić pole diagnostyki i szybciej kierować pacjentów na właściwe badania.

Narzędzia generative Advesarial Networks (GAN) są przeznaczone do tworzenia obrazów, muzyki i tekstów. Przykładem jest popularny GP Chat. Program generuje treści na podstawie dostarczanych promptów (poleceń). Pisze m.in. teksty dziennikarskie, marketingowe, pijarowe, a także artystyczne i naukowe. I choć proces wymaga nadzoru człowieka, to utworzony szkic znacznie upraszcza pracę.

Algorytmy uczenia głębokiego są implementowane w autonomicznych samochodach. Technologia m.in.: skanuje otoczenie, analizuje znaki drogowe i wyznacza najszybsze trasy.

Czym byłby Netflix lub Max bez personalizowanych rekomendacji? Sugestie odsyłają do treści zgodnych z gustem użytkownika. Tak więc jeśli lubi on filmy akcji, to na stronie głównej mechanizm wyświetli najpopularniejsze propozycje z tej kategorii.

Deep learning zwiększa poziom cyberbezpieczeństwa. Radzi sobie z pishingiem, malware, zapobiega kradzieżom haseł. Na rynku dostępne są już programy oparte na DL, które analizując strukturę komunikatu (sms, maile itd.), klasyfikują jego źródło i oceniają, czy służy on wyłudzaniu informacji.

Deep Learning wiąże się też z wyzwaniami. Oto kilka konkretów:

Do skutecznej nauki deep learning wymaga ogromnych ilości danych. To konieczne, ponieważ aby uogólniać wiedzę, technologia potrzebuje wielu przykładów. Jak nauczyć model programowania w języku Java? Karmiąc go setkami skryptów. Bez tego modele często halucynują (z pewnością podają niewłaściwe informacje), zwłaszcza w sprawach, w których brak im pogłębionej wiedzy.

Trening modeli uczenia głębokiego wymaga procesorów o dużej mocy obliczeniowej, najlepiej zaprojektowanych do przetwarzania grafiki (GPU). Tak więc, nawet jeśli użytkownik dostarczy algorytmom wielu jakościowych danych, to model może ich nie przetworzyć ze względu na bariery technologiczne. Niektóre z nich przełamią dopiero kolejne generacje komputerów.

Aby skutecznie używać narzędzi deep learning, kluczowe jest zrozumienie ich działania. Interpretowalność odgrywa szczególną rolę w medycynie czy w świecie organów ściągania. Dlaczego? Wyobraź sobie, że korzystasz z porad programu do diagnozy, nie wiedząc, jak funkcjonuje. Dlaczego zadyszka to wg maszyny zwykłe zmęczenie, a nie objaw choroby serca? Jeśli wiemy, jak działa model, możemy go korygować i konfigurować parametry, aby w przyszłości otrzymywać wiarygodne wyniki.

Stosowanie technologii nasuwa pytania etyczne. Uczenie głębokie może wzmacniać wplecione w dane uprzedzenia (rasowe, społeczne itd.). Budzi też wątpliwości dot. własności intelektualnej. Chodzi szczególnie o wykorzystanie treści internetowych, m.in. wpisów na blogach, forach czy mediach społecznościowych. Czy autorzy treści się na to godzą? Dlatego też najnowsze badania skupiają się na odkrywaniu głębokich mechanizmów działania algorytmu.

• Modele nienadzorowane i samo-uczące się

Naukowcy i inżynierowie od deep learning skupiają się na rozwoju systemów nienadzorowanych i samo-uczących się (supervised model). Celem jest stworzenie autonomicznych (i prostszych w obsłudze) systemów AI, wymagających zarówno mniej danych treningowych, jak i mniejszego nadzoru człowieka.

• Modele multimodalne

Przyszłość należy do programów wielofunkcyjnych zdolnych do generowania różnego rodzaju treści: obrazy, dźwięki, teksty. A także łączenia wrażeń (dźwiękowych, wizualnych i dotykowych) charakterystycznych dla poszczególnych typów komunikatów.

• Wysyp nowych zawodów, modernizacja dawnych

Choć deep learning przejmuje wiele zadań, to jednocześnie generuje również nowe obowiązki i tym samym miejsca pracy. Głównie związane z analizą danych, zarządzaniem AI i etyką technologiczną, m.in. inżynier AI, specjalista ds. etyki AI czy reasercher AI.

• Rozwój nowych poddziedzin deep learning

Dzięki  postępom w neuroarchitekturze inżynierowie tworzą nowe jednostki TPU (układy scalone opracowywane specjalnie na potrzeby DL) i neuromorficzne struktury. W przyszłości dzięki nim mają powstać modele jeszcze lepiej odwzorowujące funkcje poznawcze ludzkiego mózgu. Zwiększy to wydajność uczenia głębokiego.