安德烈薩哈羅夫每次都要夏蘭斯基。在他召開記者招待會時做同聲傳譯。來訪的美國要人要求會見人權運動組織時常常指名要他負責安排。美國記者，如《洛杉磯時報》的羅伯特托恩公開稱他為有關人權活動積極分子的消息來源。

這樣，夏蘭斯基經常被拘留，被抓起來盤問，特別是外國要人準備來訪問，或即將召開記者招待會的時候。在一次拘留時兩個抓他的克格勃人員要跟他下象棋。阿納托利答應，只要輸的人肯在地上爬，他就肯和他們下。

幾分鐘后，阿納托利就看到了極難得的兩個克格勃官員跪在地上的景象。

當赫爾辛基監督協會在1976年成立時，該組織的精神支柱尤里奧洛夫和安德烈薩哈羅夫建議，由阿納托利夏蘭斯基代表猶太人移民運動。

夏蘭斯基全心全意地參加監督協會工作，特別是撰寫報告的工作。他當然意識到，他時刻受到克格勃的監視。他知道他的電話被人竊聽，他的牆上裝有竊聽器，他的行動被跟蹤。

他有可能不知道的是，有段時間和他同住一室的沙尼亞利波夫斯基，是個克格勃的眼線和坐探。

1977年1月22日，蘇聯中央電視台向全國播放了為時1個鐘頭的專題節目。這個題為《出賣靈魂的人》的紀錄片，把猶太不准離境者包括夏蘭斯基在內，描繪成蘇聯境內的猶太復國主義走卒。

該節目採取一種在蘇聯前所未有的方式，在電視屏幕上放映出一些外國走卒的名字和地址，並把他們的照片清楚地放出來。夏蘭斯基勃然大怒。這是在用錄像手段煽動排猶運動，他對朋友說。

然後，夏蘭斯基做了一件蘇聯公民根本想不到也做不出的事情：他向法院起訴，控告電視台，要求它正式否認那些損害我的尊嚴和人格的污衊性內容，並要求這種否認必須用相同的傳播方式發表。

克格勃打算搞掉夏蘭斯基。

為此，夏蘭斯基的朋友沙尼亞利波夫斯基被召到克格勃總部，命令他寫一封公開信，指控夏蘭斯基曾企圖招募他為美國中央情報局工作。蘇聯新聞界對利波夫斯基的公開信大肆渲染。

在1977年3月13日，該信發表一星期後，夏蘭斯基擬了一份公開信，他寫道：現在的情況是，我好像是一個人質，被一夥無法無天不管是從國內法，還是從國際法上講的恐怖分子抓進手心任意擺佈，隨時都可以採取極端行動。

他還給在以色列的阿維塔寫了一封私人信件：

娜杜麗亞，我親愛的，我的歡樂：想想發生的一切，我只對一件事引以為憾。真令人懊悔呵，我簡直想哭我後悔我們還沒有孩子，我現在住在斯利帕克家裡，盯梢的人就住在隔壁。

這一切對爸爸衝擊很大。他夜夜不能寐，心力交瘁，他血壓劇烈增高，我覺得他已無力支撐到這一切完結之時了。我會在給你打完電話后，坐下來好好寫一封長信，我會把它寄出去，這樣你就可以收到

可是他沒能打電話，也沒有寄信。兩天後，1977年3月15日，阿納托利被綁進一輛克格勃的囚車裡，投入陰森恐怖的列伏托沃監獄。他被捕的消息在西方各國成了頭版頭條新聞。