Zaprezentuję eksperymenty, gdzie modele językowe o różnych architekturach mają rozwiązać zadanie zajmujące wiele kroków, lecz muszą te kroki wykonać w pamięci, bez zapisywania ich. Rekurentne architektury pozwalają na takie ukryte rozumowanie, co jest ryzykowne, bo oznacza, że nie zawsze mamy wgląd w "myśli" modelu. Za to transformery (np. GPT) są zmuszone zapisywać pośrednie kroki co zwykle zapewnia nam w nie wgląd (lecz nie zawsze).