Können Große Sprachmodelle über Code nachdenken?

Große Sprachmodelle (LLMs) können bis zu einem gewissen Grad den Programmausführungsfluss erklären, insbesondere für einfache Programme und solche, die sie korrekt generieren können. Ihre Leistung sinkt jedoch bei komplexerem Code, nicht-trivialen logischen und arithmetischen Operatoren, nicht-primitiven Datentypen und API-Aufrufen.