Боевая машина пехоты БМП-2 разработана в результате глубокой модернизации БМП-1, выполненной в 70-х годах конструкторским бюро Курганского машиностроительного завода, где осуществлялся серийный выпуск этих машин. Первый опытный образец был изготовлен в 1974 году, а на вооружение Советской Армии машина была принята в 1980 году.
Основные изменения коснулись вооружения машины. Вместо гладкоствольной 73-мм пушки 2А28 была установлена автоматическая скорострельная пушка 2А42 калибра 30 мм. Поводов для замены основного вооружения было предостаточно: невысокая дальность стрельбы (1300 м), недостаточная дальность эффективной стрельбы (765 м), чересчур ограниченный сектор наведения пушки в вертикальной плоскости и низкая точность стрельбы. Новая пушка решила большинство этих проблем. В вертикальной плоскости она наводится в секторе от -5° до +74°, что позволяет использовать ее для борьбы с воздушными целями. Благодаря наличию двухплоскостного стабилизатора 2Э36-1 или 2Э36-5 прицельную стрельбу из пушки можно вести во время движения машины.
Стрельбу из пушки можно вести одиночными выстрелами или очередями с малым (200—300 выстрелов в минуту) или большим (не менее 550 выстрелов в минуту) темпом стрельбы. Питание пушки раздельное двухленточное. Одна лента снаряжена выстрелами с бронебойно-трассирующими снарядами, а другая — выстрелами с осколочно-фугасными и осколочно-трассирующими снарядами. Таким образом, обеспечивается возможность борьбы с легкобронированными целями на дальностях до 1500 м, установками ПТУР, небронированными целями и живой силой противника на дальностях до 4000 м, а также воздушными целями, летящими с дозвуковыми скоростями на высотах до 2000 м.
Установка нового вооружения повлекла за собой изменения в конструкции башни. Для БМП-2 была разработана новая двухместная башня с сиденьями командира машины и наводчика. Она оснащена скоростными электрическими приводами наведения пушки в горизонтальной и вертикальной плоскостях. Новые приборы наблюдения и прицеливания позволяют вести огонь как наводчику, так и командиру.
Для борьбы с бронированными целями на дальности от 75 м до 4000 м на башне установлен ПТРК второго поколения 9М113М «Конкурс», а для более эффективного поражения живой силы противника на некоторых модификациях БМП-2 на левой стороне башни установлен 30-мм автоматический гранатомет АГ-17.
БМП-2 имеет расширенные возможности для постановки дымовых завес. В дополнение к термодымовой аппаратуре, на бортах башни БМП-2 смонтированы шесть дымовых гранатометов 902В «Туча», отстреливающих на дальность 200— 300 м дымовые заряды, образующие дымовую завесу размером 50х28 м.
В связи с установкой башни больших размеров число входящих в боевой расчет БМП-2 десантников уменьшено до семи, при этом их размещение по сравнению с БМП-1 изменено: шестеро находятся в десантном отделении, а один расположен отдельно за сиденьем механика-водителя (на БМП-1 это место занимает командир машины, на БМП-2 место командира оборудовано в башне). Все десантники могут вести стрельбу из стрелкового оружия через амбразуры в бортах корпуса; для наблюдения за полем боя они пользуются перископическими приборами наблюдения.
В моторно-трансмиссионном отделении БМП-2 установлен усовершенствованный шестицилиндровый дизельный двигатель УТД 20С1 снабженный системой турбонаддува Основные узлы трансмиссии и ходовой части практически не претерпели никаких изменении
Установка новой башни привела к увеличению боевой массы машины что однако не отразилось на плавучести БМП-2. Дополнительные амортизаторы на каждом втором опорном катке заметно улучшили ходовые качества машины особенно плавность хода.