约书亚一生征战，功勋卓越，他完成了上帝耶和华赋予的使命。他本来可以住在亭纳西拉小城的别墅里平静地安度晚年，但是他有一块心病，像大石头一样压得他寝食不安：他没有得力的接班人，他担心死后以色列人各支派会闹独立，一个统一的民族会搞得四分五裂。
果然，有一天，一个令人不安的消息传到示罗：流便、迦得和玛拿西半支派的军民回到约但河东岸以后，在约但河边的山岗上自己单独设立了一个供奉耶和华的神坛。他们在示罗神坛之外另立神坛，意味着亚伯拉罕创立的宗都面临着危机。
约书亚听到这个消息，非常吃惊。回想当年迦南战役完全结束以后，他打发这2个半支派回约但河以东去时，还谆谆教诲他们：“你们要切切地谨慎遵行耶和华仆人摩西所吩咐你们的诫命、律法，爱耶和华你们的神，行他一切的道，守他的诫命，专靠他，尽心尽力地事奉他。
“你们带着这许多财物，许多牲畜和金、银、铜、铁，许多的衣物，回你们的帐篷去。要将你们从仇敌手中夺来的东西与你们众兄弟同分。”
约书亚没有想到，才隔几个月，河东的支派就把自己的话当成耳边风。决不能让分裂的暗流形成气候！约书亚把各宗族的部队召到示罗。但是，各支派的首领对此的态度并不一致，他们有的主张出兵镇压；有的说，以色列刚刚立国，需要与民休息，医治战争创伤。如果还未在迦南扎根的时候，以色列内部就相互残杀，必然造成两败俱伤，后果不堪设想。
最终，约书亚派祭司以利亚撒的儿子非尼哈，带着10个宗族的首领，也是以色列军队的主要将领，到基列去找流便、迦得和玛拿西半支派的首领，问明情况，晓以利害，让他们停止分裂活动。
非尼哈对河东长老说：“你们在示罗之外另立神坛，犯了多么大的背逆罪孽呀！难道你们忘记了，在毗耳，许多人受米甸女人的诱惑，到她们的宗庙去敬奉异族的神灵所招受的惩罚吗？难道忘记了，亚干私藏当归上帝的供物，受到了什么样的惩罚吗？”
非尼哈这番谴责，使流便、迦得和玛拿西的子孙们非常恐惧。
他们连呼：“大能者神耶和华，大能者神耶和华！”然后诚恳而雄辩地继续说，“您圣恩在上，必能分辨；以色列全会众也必能分辨。我们筑坛，若有半点背逆的意思，必遭天诛地灭，比毗耳和亚干之灾更甚。
“我们在这里筑神坛并非无缘无故，我们是为了更好地敬神。因为上帝把约但河定为我们和以色列其他各支派的分界，我们的后人会说：上帝与我们无缘分了。这样他们就有可能不再敬奉耶和华了。为了我们的子孙能够千秋万代地祭把耶和华，感谢他把流着奶与蜜之地赐给我们为业，所以我们才自己筑了这座坛。
“我们筑这座坛，不是为了在耶和华我们的神的帐幕外献燔祭，也不是为了献素祭或平安祭，我们要把这座坛作为你我中间的证据，好让我们的子孙记住我们与你们原为一体。”
这个机智的回答，虽然不能完全消除疑惑，但是也很有说服力，让人难以驳倒。非尼哈和10名长老找不到更多的破绽，也不愿再去刨根问底，弄得双方别无选择，非要动用武力不可。所以，这场神坛之争，就大事化小、小事化了，最后以“锯箭疗伤”的方式解决了。
非尼哈对流便人、迦得人和玛拿西人说：“经过调查，我们知道耶和华在我们中间，你们没有向他犯大罪。”
非尼哈一行回到示罗，向约书亚汇报此事，约但河这边的以色列人完全取消了发兵攻打的计划，不再提这件事了。
流便人、迦得人和玛拿西人听到这个消息后，就把自己筑的那座坛起名为证坛。
这事以后，约书亚有2次感到自己病危，快离开人世了。第一次，他把以色列各支派的长老、族长、审判官和官长都召了来，对他们说：
“你们要大大壮胆，谨守遵行写在摩西律法书上的一切话，不可偏离左右，不可与你们中间所剩下的这些国民搀杂。他们的神，你们不可事奉、叩拜。你们要分谨慎，爱耶和华你们的神。你们若稍微偏离，与你们中间所剩下的这些国民联络、结亲、互相往来，他们就要成为你们的网络、机槛、肋上的鞭、眼中的刺，直到你们在耶和华你们的神所赐的这块土地上灭亡。”
第二次，约书亚是真正的病危了，众长老、族长、审判官和官长来到约书亚跟前。约书亚用尽全身的力气，把摩西的律法向他们宣读了一遍，要求他们宣誓，以后任何时候都绝不崇拜耶和华之外的神。他叫人在一棵大橡树下立下了一块石头，他指着那块石头说：“你们看哪！这块石头可以作我们的见证，因为它听见了我们向耶和华表的忠心。如果你们背弃耶和华，这块石头就是见证。
“上帝赐给你们的土地，非你们所修治；赐给你们的城池，非你们所建造。你们就住在其中，又得吃非你们栽种的葡萄园、橄榄园的果子。你们要世世代代感谢耶和华，专心地事奉他，遵守他的约。”
约书亚活到110岁时死去了。以色列人将他葬在他的领地以法莲山上的亭纳西拉。