Przezwyciężanie katastrofalnego zapominania: skok w ciągłym uczeniu się sztucznej inteligencji

streszczenie: Naukowcy badają główną przeszkodę w uczeniu maszynowym znaną jako „katastrofalne zapominanie”, zjawisko polegające na tym, że systemy sztucznej inteligencji tracą informacje z poprzednich zadań podczas uczenia się nowych.

Badania pokazują, że podobnie jak ludzie, sztuczna inteligencja lepiej zapamiętuje informacje, gdy ma do czynienia z różnymi zadaniami, niż gdy mają podobne cechy. Wnioski z badania mogą pomóc w ulepszeniu ciągłego uczenia się w systemach sztucznej inteligencji, rozwijaniu ich zdolności do naśladowania procesów uczenia się człowieka i poprawienia wydajności.

Kluczowe fakty:

1. Katastrofalne zapominanie to wyzwanie w systemach AI, w których informacje z poprzednich zadań są zapominane podczas uczenia się nowych zadań.
2. Sztuczne sieci neuronowe lepiej zapamiętują informacje, gdy są przedstawiane z różnymi zadaniami, niż zadaniami o podobnych cechach.
3. Spostrzeżenia z badania mogą wypełnić lukę między uczeniem maszynowym a uczeniem się człowieka, co może prowadzić do bardziej zaawansowanych systemów sztucznej inteligencji.

źródło: Uniwersytet Stanowy Ohio

Trzymanie się wspomnień może być równie trudne dla maszyn, jak dla ludzi.

Aby pomóc zrozumieć, dlaczego sztuczni agenci mają dziury w swoich procesach poznawczych, inżynierowie elektrycy z Ohio State University przeanalizowali, w jaki sposób proces zwany „ciągłym uczeniem się” wpłynął na ich ogólną wydajność.

Ciągłe uczenie się polega na tym, że komputer jest szkolony w zakresie ciągłego uczenia się serii zadań, wykorzystując wiedzę zgromadzoną na podstawie starych zadań do lepszego uczenia się nowych zadań.

Jednak jedną z głównych przeszkód, które naukowcy wciąż muszą pokonać, aby osiągnąć takie wyżyny, jest nauczenie się, jak obejść odpowiednik amnezji w uczeniu maszynowym – proces znany w agentach AI jako „katastroficzne zapominanie”.

Ness Shroff, starszy badacz z Ohio i profesor informatyki i inżynierii na Uniwersytecie Stanowym w Ohio, ponieważ sztuczne sieci neuronowe są szkolone w wykonywaniu jednego nowego zadania, mają tendencję do utraty informacji uzyskanych z poprzednich zadań.

„Ponieważ aplikacje do zautomatyzowanej jazdy lub inne systemy robotów uczą nas nowych rzeczy, ważne jest, aby nie zapominały lekcji, których już się nauczyły ze względu na nasze i ich bezpieczeństwo” – powiedział Shroff. „Nasze badania zagłębiają się w złożoność ciągłego uczenia się w tych sztucznych sieciach neuronowych, a to, co znajdujemy, to wgląd, który zaczyna wypełniać lukę między tym, jak uczy się maszyna, a tym, jak uczy się człowiek”.

Naukowcy odkryli, że podobnie jak ludzie mogą mieć trudności z zapamiętaniem sprzecznych faktów dotyczących podobnych scenariuszy, ale z łatwością przypominają sobie z natury różne sytuacje, sztuczne sieci neuronowe mogą lepiej zapamiętywać informacje, gdy mają do czynienia z różnymi zadaniami po kolei, niż gdy mają podobne cechy, powiedział Shroff.

Zespół, w skład którego wchodzą badacze ze stopniem doktora z Ohio, Sen Lin i Bishong Guo oraz profesorowie Yingbin Liang i Shroff, zaprezentuje swoje badania w tym miesiącu na 40.

Chociaż może być trudno nauczyć autonomiczne systemy wykazywania tego rodzaju dynamicznego uczenia się przez całe życie, posiadanie takich możliwości pozwoli naukowcom skalować algorytmy uczenia maszynowego w szybszym tempie, a także łatwo dostosowywać je do zmieniających się środowisk i nieoczekiwanych sytuacji. Zasadniczo systemy te będą miały pewnego dnia naśladować zdolności uczenia się ludzi.

Tradycyjne algorytmy uczenia maszynowego są trenowane na wszystkich danych jednocześnie, ale wyniki tego zespołu pokazały, że czynniki takie jak podobieństwo zadań, ujemne i dodatnie korelacje, a nawet kolejność, w jakiej algorytm jest nauczany, mają znaczenie dla długości czasu, w którym syntetyczna sieć zachowuje daną wiedzę.

Na przykład, aby poprawić pamięć algorytmu, powiedział Shroff, zróżnicowane zadania muszą być nauczane na wczesnym etapie ciągłego procesu uczenia się. Ta metoda rozszerza zdolność sieci do pozyskiwania nowych informacji i poprawia jej zdolność do późniejszego uczenia się podobnych zadań.

Shroff powiedział, że ich praca jest szczególnie ważna, ponieważ zrozumienie podobieństw między maszynami a ludzkim mózgiem może utorować drogę do głębszego zrozumienia sztucznej inteligencji.

„Nasza praca zwiastuje nową erę inteligentnych maszyn, które mogą uczyć się i dostosowywać tak samo, jak ich ludzkie odpowiedniki” – powiedział.

Finansowanie: Badanie było wspierane przez National Science Foundation i Army Research Office.

O tej sztucznej inteligencji i poznaj nowości badawcze

autor: Tatiany Woodall
źródło: Uniwersytet Stanowy Ohio
Komunikacja: Tatiana Woodall – Uniwersytet Stanowy Ohio
zdjęcie: Zdjęcie przypisane do Neuroscience News