Стремясь закрепиться в Армении, арабы предприняли ряд походов в Малую Азию. Они укрепились в области Мелитины в пограничной зоне к западу от центральных армянских земель и оттуда наносили удары по ромеям.

Организатором этих походов был брат халифа Абд-ал-Малика Мухаммед-ибн-Мерван, назначенный наместником севера.

В это же время развернулись военные действия в Грузии. Если раньше объектом арабских вторжений оказывалась лишь Картли, то теперь настала очередь Лазики. Этому способствовало то, что в 697г. патрикий Лазики Сергий, 1 сын Варнукия, поднял восстание против византийцев и подчинился арабам. Ромеи, впрочем, сумели удержать в своих руках города побережья Колхиды и не дали неприятелю продвинуться дальше.

В самом конце 698-го или в начале 699 г. Вараз-Трдат бежал из Константинополя в Албанию и подчинился арабам. Взбешенный император немедленно заключил его сыновей в тюрьму. Вараз-Трдат вскоре умер. Новый правитель Албании Широй (Шеро) также признал свою зависимость от Халифата. Албания была потеряна для Византии навсегда.

Несмотря на тяжелые бои в Лазике и в Малой Азии ромеи не желали отказываться от Армении. Против армянского ишхана Смбата Багратуни было отправлено византийское войско. Сражение произошло на болотистом поле Паик. Армяне потерпели поражение. Смбату с немногими воинами удалось спастись. Победа досталась ромеям дорогой ценой, и они возвратились в Малую Азию. Впрочем, им удалось удержать за собой западную часть армянских земель (т. н. провинцию Четвертая Армения).

С юга Армения подвергалась нападениям арабов. Несмотря на то, что ишхан выступал на стороне Халифата, в Армении были и противники арабских завоевателей. Так, остров на озере Севан оказывал им сопротивление в течение двух лет.

В 701 г. Мухаммед-ибн-Мерван предпринял большой поход в Закавказье. Проникнув со стороны ал-Джазиры в армянскую область Джермадзор, арабы обнаружили там много мирного населения, находившего убежище в неприступных горных крепостях. Не сумев взять эти крепости силой, Мухаммед уговорил их защитников выйти из укреплений, а затем перебил мужчин и женщин, а детей взял в плен. Через два года разграблению подвергся также богатый монастырь святого Григора в Багреванде. Его монахов зверски умертвили. Затем Мухаммед взял Двин и, оставив там арабский гарнизон, двинулся к Севану. Там он встретил такое сопротивление, что вынужден был отступить, и пошел на восток. Тем временем ромеи с союзными им армянами, окружив Двин, взяли его и перебили арабский гарнизон. Мухаммед возвратился, после упорной борьбы занял Севанский остров и истребил многих его защитников. Был снова занят Двин, опустошена Армения, а также Картли.

Положение ромеев осложнилось в это время и на западе вследствие того, что князь Четвертой Армении Ваан по прозвищу Семибесовский подчинился арабам.