4 जुलाई 1952 में हुए 'दिल्ली समझौते' के बाद नेहरू और शेख अब्दुल्ला के बीच दूरियाँ पैदा होने लगी थीं। इस समझौते में कई शर्तें थीं। पहली यह कि वंशागत राज को खत्म कर दिया जाएगा; दूसरी यह कि राज्य के संवैधानिक प्रमुख को सदर-ए-रियासत कहा जाएगा, जिसे राज्य की विधानसभा राज्य के नागरिकों में से चुनेगी; तीसरी यह कि राज्य से बाहर के लोगों को राज्य की नागरिकता नहीं दी जाएगी; और चौथी यह कि राज्य का अपना एक अलग झंडा होगा जिसे राष्ट्रीय झंडे के साथ फहराया जाएगा।
इसके बदले में केन्द्र को जो आश्वासन दिया गया था वह वही था जो 1951 में चुनी गई जम्मू और कश्मीर संविधान सभा ने कहा था-‘जम्मू और कश्मीर राज्य भारतीय संघ एक अभिन्न अंग है और रहेगा।’ इस धारा में संविधान के अनुसार कोई संशोधन नहीं किया जा सकता था। फिर भी, दिल्ली और श्रीनगर के बीच की दूरियाँ बढ़ने लगी थीं। शेख अब्दुल्ला ने केन्द्र को रक्षा, विदेशी मामलों और संचार के दायरे से आगे न बढ़ने की चेतावनी देकर टकराव की घोषणा कर दी थी। नेहरू इन घोषणाओं से बहुत ज्यादा विचलित थे।
उन्होंने केन्द्रीय मंत्री रफी अहमद किदवई से श्रीनगर जाकर यह पता लगाने के लिए कहा कि आखिर शेख अब्दुल्ला क्या चाहते थे। किदवई बहुत मायूस होकर श्रीनगर से लौटे, सिर्फ इसलिए ही नहीं कि शेख ने उनके साथ रूखा व्यवहार किया था बल्कि इसलिए भी कि उन्हें शेख की बातों में बगावत के तेवर दिखाई दे रहे थे। शेख ने उनसे कहा था कि भारत चाहे तो उन्हें गिरफ्ता कर सकता था, पर उनकी जुबान बन्द नहीं कर सकता था। कुछ दिन बाद नेहरू ने मौलाना आजाद को शेख से बातचीत करने के लिए भेजा। शेख ने उनसे भी सीधे मुँह बात नहीं की, हालाँकि वे जानते थे कि नेहरू उन्हें कितना महत्त्व देते थे। शेख ने आजाद से कहा कि उन्हें भारत के साथ विलय के अपने फैसले पर पछतावा हो रहा था।
नेहरू बहुत उलझन में थे। उनकी समझ में नहीं आ रहा था कि क्या करें। उन्हें शेख के साथ अपनी पुरानी दोस्ती का खयाल था। उन्होंने यह मामला केबिनेट के सुपुर्द कर दिया। केबिनेट में कोई भी शेख के पक्ष में नहीं था। केबिनेट का खयाल था कि शेख को हटा देना ही ठीक था, क्योंकि उनके सत्ता में बने रहने से कश्मीर विद्रोह पर उतारू हो सकता था। पन्त भूमिका बहुत महत्त्वपूर्ण थी। उनका आरोप था कि उनके मंत्रालय की सूचना के अनुसार शेख पाकिस्तान के सम्पर्क में थे।
शेख अब्दुल्ला ने उन दिनों को याद करते हुए बाद में मुझे बताया था कि यह सच नहीं था। उनका कहना था कि भारत सरकार समझौते की शर्तों से बाहर जाने की कोशिश कर रही थी और कश्मीर के घरेलू मामलों में दखल देना चाहती थी। शेख अब्दुल्ला ने नेहरू की बजाय उनके ‘कान भरने वालों को दोष दिया। उन्होंने कहा कि उन्होंने दोनों केन्द्रीय मंत्रियों से यह कहा था कि कश्मीर ‘हिन्दुस्तान का गुलाम’ बनकर नहीं रहना चाहता।
नेहरू ने आजाद की इस सलाह पर अमल करने का फैसला किया कि हालात बेकाबू हो जाने से पहले ही शेख को हटा देना ठीक रहेगा। 9 अगस्त, 1953 को शेख अब्दुल्ला को गिरफ्तार कर लिया गया। 1942 में इसी दिन गांधीजी ने अंग्रेजों के खिलाफ ‘भारत छोड़ो आन्दोलन’ की शुरुआत की थी। शेख को हवाई जहाज से कोयम्बतूर ले जाया गया, जहाँ से उन्हें दक्षिण के ठंडे इलाके कोडाइकनाल में स्थानान्तरित कर दिया गया।