Это нужно чтобы было ощущение многозадачности - того что много вещей работает параллельно

Примеры архитектур: x86 (intel x64/AMD64)

ARM ARMv8 (AArch64)

x86 - CISC (Complex Instructions Set Computer), переменная длина инструкций (до 15 байт) и т.п.

ARM - совсем другой, RISC (Reduced Intruction Set Computer)

В общем случаи процессор состоит из:
Ядра, у ядер есть Кэш 1 и 2 уровня, есть контроллер памяти

и ядра соединены быстрой шиной (LLC)

Данные из памяти проходят через кэши разного уровн.

Программисты говорят "процессор" но по фатку подразумевают "Ядра"

Микроархитектура - конкретная реализация архитектуры

Мы определили требования к x86

А теперь сделаем конкретный процессор

и пока они выполняют одни инструкции - они совместимы

а внутри могут быть совсем другими

Например простой процессор - выполняет инструкции по порядку (In-Order)

и это обычно то что думаешь если не знаешь что такое процессор на самом дел

фактически ты думаешь что процессор делает:
читаем инструкцию
Декодируем
Выполняем

и так повторить пока есть что выполнять

Это кстати классические RISC (RISC-V например)

А затем мы начинаем добавлять фичи

например добавляем конвеер (pipeline)