Meydana gelen bir gelişme onların huzurunu bozdu. Gazneli Mahmud, Emir Ali b. Memun'a bir mektup göndererek meclisindeki alimleri kendi sarayına göndermesini istedi. Ancak İbni Sina ve el-Mesihi gitmemeye karar verdi. Ancak, Gürgenç'te kalmayı da tehlikeli görerek oradan ayrıldılar. Gazneli Mahmud, İbni Sina'yı buldurmak için resmini yaptırıp çoğalttırarak çeşitli bölgelere gönderdiyse de bir sonuç elde edemedi.
İbn Sina; Nesa, Baverd, Tus, Şakkan, Semnikan ve Cacerm'e uğradıktan sonra Ziyari Hükümdarı Kabus Veşmigir ile buluşmak amacıyla Cürcan'a gitti. Fakat bu sırada Emir Kabus'un tutuklanıp bir kalede hapsedilip orada ölmesi üzerine Cürcan ile Harizm arasındaki Dihistan'a geçti. Bu bölgede iken 403'te (1012) şiddetli bir hastalığa yakalanan İbni Sina aynı yıl içerisinde Cürcan'a döndü ve burada, daha sonra kendisinden hiç ayrılmayan ve biyografisini kaleme alacak olan Ebu Ubeyd el-Cuzcani ile tanıştı.
Cürcan'da iki yıl kalan İbni Sina, Rey'e giderek Büveyhi Valisi Fahrüddevle'nin eşi Seyyide ve oğlu Mecdüddevle ile buluştu. Burada ilmi otoritesini kabul ettirerek Mecdüddevle'nin tedavisini üstlendi. Mecdüddevle, Büveyhîler ailesinin bir mensubu olduğundan bu hadise İbni Sina ile Büveyhîler arasındaki samimi ilişkinin başlangıcını teşkil etti. İbni Sina, Mecdüddevle'nin tedavisinden sonra Kazvin'e, oradan da Hemedan'a gitti. Bu şehirde Kezbanevey'in hizmetine girdi. Ardından kulunç (kolik) hastalığına yakalanan Büveyhi Hükümdarı Şemsüddevle'yi tedavi etmek için onun sarayında bulundu. Burada hükümdarı iyileştirmeyi başaran İbni Sina birçok ödülle birlikte hükümdarın dostluğunu da kazandı. Şemsüddevle ile Karmisin seferine katıldı. Savaş yenilgiyle sonuçlanınca Şemsüddevle ile birlikte Hemedan'a döndü. Bu olaydan sonra İbni Sina'ya vezirlik görevi verildi. Fakat ordu içerisinde baş gösteren huzursuzlukların ardından isyan çıktı. İbn Sînâ'nın evini kuşatan isyancılar onu hapse atıp bütün mallarına el koydular; ayrıca Şemsüddevle'den filozofun öldürülmesini istediler. Bu isteği kabul etmeyen hükümdar isyancıları yatıştırmak için onu görevinden uzaklaştırdı. İbn Sînâ, kırk gün boyunca Şeyh Ebû Sa'd ed-Dahdûk'un evinde gizlenmek zorunda kaldı. Ancak hastalığı nükseden Şemsüddevle tekrar kendisini tedavi etmesini isteyince onu tedaviye başlayan İbn Sînâ yeniden vezirlik makamına getirildiği gibi öncekinden daha çok ikram ve iltifata nâil oldu.
Daha sonra İbni Sina, Şemsüddevle'nin Tarım üzerine düzenlediği sefere katılmak durumunda kaldı. Tarım yakınlarında hükümdar tekrar hastalanınca askerler kendisini Hemedan'a götürmek istedilerse de Şemsüddevle yolda öldü ve yerine oğlu Semaüddevle geçti (412/1021). Yeni hükümdar İbni Sina'dan vezirlik görevini sürdürmesini istediyse de filozof bunu kabul etmedi. Bu tavrı yüzünden Büveyhiler'le arasının açılmasına rağmen Hemedan'dan ayrılamadı ve bir süre gözden uzak olarak Ebu Galib el-Attar'ın evinde kaldı. İbni Sina ile Büveyhiler arasındaki gerginlik artmış, hatta Şemsüddevle'nin öteki oğlu Tacülmülk, onun Kakuyiler Hükümdarı Alaüddevle Muhammed Rüstem ile gizlice mektuplaştığını ileri sürdü. İbni Sina bu suçlamayı kabul etmediyse de kendisine düşmanlık besleyen bazı kişilerin de aleyhinde bulunması üzerine Ferdecan Kalesi'ne hapsedildi (414/1023). Kalede dört ay kalan filozof, Alaüddevle'nin Hemedan'a bir sefer düzenleyip orayı zaptetmesinden sonra serbest bırakıldı. O da Hemedan'da vezirlik yapan Ebu Talib el-Ulvi'nin evinde kaldı.
Bütün bu olaylardan sonra yine de kendisini bırakmak istemeyen Tacülmülk'ün vaadlerine güvenmeyen İbni Sina, 415 (1024) yılında İsfahan'a gitmek üzere kardeşi, iki hizmetçisi ve talebesi Cuzcani ile birlikte Hemedan'dan gizlice ayrıldı. Sıkıntılı bir yolculuktan sonra İsfahan dolaylarındaki Taberan'a ulaştı. Dostları ve Alaüddevle Muhammed Rüstem'in yakınları tarafından karşılandı ve Abdullah Babi'nin evinde misafir edildi.
Bir süre sonra Alaüddevle'nin meclisine katılan İbni Sina burada saygı gördü. Nizamiyi Aruzi, Alaüddevle'nin İbn Sina'yı vezirliğe getirdiğini ve en önemli işleri onun yetkisine bıraktığını ifade ederek, "Gerçek şu ki Aristo'nun İskender'e vezir olmasından sonra hiçbir hükümdara Ebu Ali gibi bir vezir nasip olmamıştır" dedi.
İsfahan'da kaldığı yıllar boyunca nisbeten sakin bir hayat süren İbni Sina, Gazneli Hükümdarı Sultan Mesud'un İsfahan'ı almasından sonra evinin ve kütüphanesinin yağmalanması üzerine büyük bir sarsıntı geçirdi. Bu dönemde sağlığı da bozuldu. Devrinde yaygın olan kulunç hastalığına yakalandı. Kendini tedavi etmeye çalışan İbni Sina, bir ara tekrar sağlığına kavuşur gibi olduysa da tam iyileşemedi. Alaüddevle, Hemedan'a sefere çıktığında onunla beraber bulunduğu sırada yolda tekrar hastalandı ve Hemedan'a ulaştıklarında vefat etti, burada da toprağa verildi.
