Le mécanisme d'attention, c'est ce qui permet à l'IA de savoir sur quels mots se concentrer quand elle lit une phrase. Quand elle traite le mot "il" dans "Le chat dort car il est fatigué", l'attention lui permet de comprendre que "il" se rapporte à "chat". Sans ce mécanisme, l'IA traiterait chaque mot de façon isolée sans comprendre les liens entre eux.