НОАК очень высоко оценило МиГ-19, чья лицензионная копия J-6 производилась в Китае с 1958 года. В августе того же года на базе истребителя ВВС заказали штурмовик. Главным конструктором был назначен Лю Сяопень, впоследствии также разработавший истребитель J-12.
Первый прототип был завершён в 1960, однако проект из-за политической обстановки в стране был закрыт и открыт заново лишь в 1965 году. Первый полёт штурмовик совершил 4 июля 1965 года, в серию он пошёл начиная с 1970 года.
Несмотря на то, что самолёт создан на базе истребителя МиГ-19, отличия от прототипа весьма значительны. Воздухозаборники были перемещены к бокам фюзеляжа для того, чтобы освободить в носу место для прицельной РЛС(которая считается недоведённой до сих пор). Добавлен внутренний бомбоотсек, число точек подвески увеличено до 6.
Q-5 — базовая версия с 6 точками подвески. Всего было построено около 100 Q-5[1].
Q-5A — улучшенная версия. Самый массовый вариант. Установлены более мощные двигатели WP-6A. Количество точек подвески увеличилось до 10. Было построено более 600 штурмовиков этой модификации. Некоторые самолёты были модифицированы как носители тактического ядерного оружия[1].
Q-5B — ударная противокорабельная версия для ВМС КНР. Представляет собой торпедоносец, вооружённый 2 торпедами Yu-2[5]. Первый полёт совершил в сентябре 1970 года. Оснащён более мощными двигателями WP-6A.
Q-5D — улучшена авионика, установлены дисплей и навигационная система
Q-5I — убран внутренний бомбоотсек. Практическая дальность увеличилась на 26%, боевой радиус — на 35%[1]. Также на 130 м сократились взлётная и посадочные дальности, улучшилась скороподъёмность и максимальная скорость.
Q-5IA — установлен новый оптический стрелково-бомбардировочный прицел, две дополнительные подкрыльевые точки подвески для бомб калибром до 500 кг и топливные баки увеличенной ёмкости с системой заправки топливом под давлением.
Q-5II — установлена усовершенствованная система оповещения о радиолокационном облучении
Q-5III — получил западную авионику, катапультное кресло Martin-Baker Mk PKD10 и способность применять УРВВAIM-9 Sidewinder[6] Поставлялся на экспорт под обозначением А-5С.
Q-5E — способен использовать корректируемый по лазерному лучу бомбы LS-500J, получил систему навигацию на основе GPS[7]
Q-5F — получил лазерно-телевизионную прицельную систему[7]
Q-5J — двухместная учебно-боевая версия
Q-5K Kong Yun — улучшенная двухместная учебно-боевая версия, оснащённая французской авионикой
Q-5M — улучшенная двухместная учебно-боевая версия, оснащённая итальянской авионикой