Egy új AI kutatási tanulmány meglepő geometriai struktúrákat tár fel a nagy nyelvi modellek (LLM) tanult koncepcióiban. Max Techark közelmúltbeli munkája bemutatja, hogyan szerveződnek az AI rendszerek információi agyszerű lebenyekbe és szemantikai kristályokba.
Az új eszközök, mint a ritka Auto-kódolók, lehetővé tették, hogy betekintsünk az AI modellek belsejébe, és megértsük, hogyan alakítják ki az információs struktúrákat. A kutatók három szervezési szintet fedeztek fel, amelyek mindegyike egyre összetettebb az előzőnél, és ezek a szerveződési minták természetes úton, a tanulás során alakultak ki.
A tanulmány rávilágít arra, hogy az AI tudása három fő lebenybe rendeződik: a kódolási és matematikai lebeny, az általános nyelvi lebeny, valamint a párbeszédlebeny. Ezek a lebenyek hasonlóak az emberi agy különböző funkciókért felelős területeihez, ami új megvilágításba helyezi az AI és a biológiai agyak közötti párhuzamokat.
Az eredmények mélyebb megértést nyújtanak az AI rendszerek működéséről és képességeiről, valamint új lehetőségeket kínálnak a modellek továbbfejlesztésére és a torzítások csökkentésére. Emellett a kutatás hozzájárulhat az emberi kogníció jobb megértéséhez is.
