1945 yılında Erzurum'un Aşkale ilçesi Dağlı Köyü'nde dünyaya gelmiştir.
3-4 yaşlarından itibaren babasının değirmeninde çalışır. Müzikle ilk tanışması burada olur. Sanatçı bu süreci şöyle anlatır;
"Tek bir ses, suyun sesi. Su altta pervanelere vurur. Pervanenindönerken çıkardığı ses ve bir de iki taşın birbirine sürtmesinin sesibirbirine karışır. O sesi değiştiren tek yabancı unsur vardır. O dakocaman, şakşak denen ağaçtır. Ağacın üzerine nal çakarlar. Taşdöndükçe ona sürter, ara sıra taşın çakılları değer, şangır şungursesler çıkarır. Yani düz sesi bir ritimle, değişik seslerle bozar.Değirmende bu sesleri sürekli dinlemek zorundasınız. Taşlar devamlıdöner ve şakşak dediğimiz ağacın üstündeki o nalların sesi değirmentaşına müzikte duyduğun ritmi verir. Ve orada hayal kurarsın, rüyagörürsün... Orkestralar yönetirdim orda kendimce. Müziği ben oradanhatırlıyorum. Müziğe kafamı taktığım, müzikle diyalogu kurduğum yıllaro yıllardır..."
Değirmentaşı ve su sesinin uyumu Arif Sağ'ın dinlediği ilk orkestradır.

yaşında kavalla, 6 yaşında ise gramofon ve plakla tanışır.
Bağlamayla 7 yaşında iken Erzincan'da 'Kumaş Dede'nin dükkânındatanışır. Burası öyle bir dükkandır ki bağrında Davut Sulari, AşıkDaimi, Ali Ekber Çiçek, Aşık Beyhani, Kemter Yusuf v.b. yetiştirmiştir.14 yaşına kadar aşıklık geleneğini öğrenip deyişler söylemeye başlayansanatçı, sonraki yıllarda İstanbul'a gelir ve Aksaray MusikiCemiyeti'nde Nida Tüfekçi'nin öğrencisi olur.
Bu dönemlerde müzikal altyapısını oluşturma dönemidir. 1960 ve 70'liyıllar Arif Sağ için müzikte arayış yıllarıdır. Arif Sağ'ın, bu dönemintoplumsal hareketlerinin müzikle bağdaşan yanlarından çok, piyasadakive resmi kurumlardaki müzik uygulamalarına ağırlık verdiğisöylenebilir. İlk plağı "Gafil Gezme Şaşkın Bir Gün Ölürsün’ü budönemde, 1963'te çıkarmıştır. 1965'de İstanbul Radyosu'na bağlamasanatçısı olarak girer.
Bu yıllarda Sağ'ın piyasadaki faaliyetleri de devam etmektedir. 45'likplak dönemi olarak adlandırılan ve yaklaşık 20 yıl devam eden busürecin en parlak simalarındandır Arif Sağ... Bu süreçte 45'in üzerindeplak, 200'ün üzerinde beste yapar. Çeşitli sanatçılara bağlamasıylaeşlik etmesinin yanında, - yine bu dönemde- bestelerini de pek çoksanatçıya okutur. Yapılan müzik bugünkü terminolojiyle bir tür arabesk-fantazi benzeridir; bestelerinde ise yerel motifleri çok sıkkullanır.Bu da onun halk müziğinden kopamadığı gerçeğinin bir başkagöstergesidir.
1975'de kurulan "İstanbul Devlet Türk Müziği Konservatuarı"na "öğretimüyesi" olarak giren Arif Sağ, halk müziği ve bağlama konusundakiakademik çalışmalarını da bu dönemde başlatır. 1982'de konservatuardanayrılarak, kendi adına "Arif Sağ Müzik Evi"ni kurar. Bu arada MusaEroğlu, Muhlis Akarsu ve Yavuz Top gibi bağlamanın diğer ustalarıylaMuhabbet serisinin ilk albümünü hazırlar. Uzun bir zamana yayılan bubirlikte çalışma, beş albüm ortaya çıkarır.
1982 yılında İstanbul'da Şan Tiyatrosu'nda ilk 'Bağlama Resitali'niverir. Sonrasında bu dönemlerde Avrupa'nın birçok ülkesi ileUzakdoğu'da (Japonya'da) halk müziğimizi ve halk çalgımızı tanıtıcıçalışmalar yapar.
Ülkemizde müzik alanında kişisel renklere ve üstün yeteneklere sıkrastlanmasına rağmen, bağlama çalgısında bir ekol yaratan sanatçısayısı parmakla sayılacak kadar azdır. İşte bunlardan birisi ve-şimdilik - sonuncusu Arif Sağ'dır. Bağlamaya teknik bakımdan hakimolduğu kadar Arif Sağ'ın icrası, yerel tavırlar, repertuar ve duygubakımından da zenginliklerle doludur. Halk müziği ve bağlama alanındaözgün arayışlarını yoğunlaştırarak sürdüren Arif Sağ, bir dönem(1987-1991) parlamentoda "milletvekili" olarak bulunan ilk sanatçıdır.

Mayıs 1996'da Almanya Cumhurbaşkanı Sayın Roman Herzog'un desteği ileKöln Flarmoni Orkestrası ile Köln Flarmoni Salonu'nda verdiği konserleAnadolu müziğinin batıya tanıtılmasına ciddi katkılar koymuştur.
1996 yılında Köln Senfoni Orkestrası eşliğinde Erdal Erzincan ve ErolParlak 'la birlikte Köln'de verdiği konser büyük ilgi görür ve yineaynı yıl Cumhurbaşkanlığı tarafından verilen özel ödülü alır. Arif Sağ,sazında günlük yaşamın ekmek-su gibi doğal bir parçası sayılan AnadoluAleviliği'nin "aşık-ozan" geleneği ortamında yaşayarak yetişmiştir.
Son olarak 21. 01. 2000 - 05. 02. 2000 tarihleri arasında, İspanya'nınünlü Flamenko gitaristi Toma Tito ile Avrupa'nın 12 ayrı şehrindekonserler vererek bağlamanın yurt dışında tanınmasını ve hak ettiğiövgüyü almasını sağlamıştır.
Sanatçı evli ve iki çocuk babasıdır.