Поход хазар в Закавказье встревожил правителей Византии и Арабского халифата, которые хотели сами утвердиться в этих странах. Византийский хронист Феофан упоминает, что приблизительно в 686—687 гг. император ромеев Юстиниан II (внук Константа II) заключил с арабским халифом Абд-ал-Маликом договор, по которому они решили делить поровну подати с Кипра, Иверии и Армении.

В том же году, пишет Феофан, византийское войско, которым командовал полководец Леонтий, завоевало Армению, Картлн, Албанию, Мидию и наложило на них подати. Как видно, Юстиниан II решил вернуть все то, чем когда-то владел его дед Констант II. Однако результаты похода Леонтия были довольно скромными. Закрепить завоеванные земли за империей не удалось. Если в 659 г. местное население в основном было настроено в пользу византийцев, то во второй половине 80-х гг. VII в. положение было уже иным. Ромеи вели себя в Закавказье как во вражеских землях, и это отталкивало от них местное население. Леонтий опустошил грабежом 25 округов Армении и вернулся назад с 8 тыс. пленных.

Византия вступила в это время в новую затяжную полосу войн с Арабским халифатом, изредка перемежавшихся мирными передышками. В Закавказье военные действия фактически не прекращались в течение нескольких десятилетий. Вслед за византийцами в Армению вторглись арабы. Ишхан Ашот Багратуни (преемник Григора Мамиконяна) напал на них, часть истребил, а остальных обратил в бегство. Тогда арабы прибегли к военной хитрости. Они, отступая, бросили награбленную добычу. Большинство армянских воинов ослабило преследование, подбирая брошенное противником, и за арабами продолжал гнаться только Ашот с немногими всадниками. Неприятели внезапно бросились на них и ранили ишхана. Армяне пришли на помощь и наголову разбили арабов. Тяжело раненного Ашота Багратуни увезли с поля битвы, и вскоре он скончался.

Не желая уступать Армению арабам, Юстиниан II сам во главе войска двинулся в Закавказье. Разделив войско на две части, он завоевал в 689 г. Армению, Картли и Албанию. Армянским ишханом вместо умершего Ашота Багратуни был назначен владетель Ширака Нерсех Камсаракан. Он правил 4 года и был известен своей строительной деятельностью. Стремясь покрепче привязать Закавказье к империи ромеев, император взял в заложники некоторых князей.

Подобно своим предкам Ираклию и Константу II, Юстиниан II также предпринял попытку объединить греков и армян в религиозном отношении. Дело в том, что соглашение об объединении церквей, заключенное при Константе II, в Армении фактически не соблюдалось. В самой Византии на VI Вселенском соборе в 680— 681 гг. монофелитство было осуждено как ересь, и официальной религией в империи снова стало православие. Поэтому Юстиниан II стремился объединить греков и армян уже не на монофелитской, а на православной основе. Он заставил католикоса Саака и некоторых других армянских епископов признать постановления Халкидонского собора. Однако большинство армян отказалось принять халкидонитство, и объединение фактически не состоялось.

В 90-е гг. VII в. положение в Арабском халифате постепенно стабилизировалось. Халифу Абд-ал-Малику (685—705) удалось подавить все оппозиционные движения, что привело к новому усилению внешнеполитической активности арабов. Уже в 692-м или в 693 г. арабский полководец Мухаммед-ибн-Укба вторгся в Албанию и, пройдя через нее на север, занял Дербентский проход.

Одновременно на западе происходили военные действия между арабами и византийцами, причем не в пользу последних. Во время одного сражения находившиеся в ромейском войске славяне изменили императору и перешли на сторону арабов. Византийцы потерпели поражение. В 693 г. армянский ишхан Смбат Багратуни (сын Варазтироца), сменивший на этом посту Нерсеха Камсаракана, подчинился арабам, чтобы спасти страну от излишнего кровопролития. Возможно, при этом он также руководствовался чувством мести по отношению к грекам, которых считал виновными в смерти своего отца.

Арабам не удалось удержать Дербентский проход в своих руках. Их вытеснили оттуда хазары, у которых к тому времени сложился прочный союз с византийцами. Албания оказалась в очень тяжелом положении. Чтобы обезопасить свою страну от вражеских вторжений, ее правитель Вараз-Трдат вынужден был платить дань одновременно ромеям, хазарам и арабам. Такая тройная зависимость тяжело отразилась на положении албанского населения. Византийский император подозревал, что Вараз-Трдат замышляет свергнуть византийское господство и перейти на сторону Халифата. Эти опасения не были беспочвенными, т. к. переход на сторону арабов способствовал бы освобождению не только от ига ромеев, но и от хазар, поскольку последние были союзниками первых. Как видно, албанский правитель предпочитал тройному игу зависимость от одного Халифата. Чтобы не допустить разрыва связей Албании с Византией, император оставил Вараз-Трдата с сыновьями в Константинополе и держал их там фактически на положении заложников.