Na przełomie XVII/XVIII wieku zamek został zniszczony podczas wojen szwedzko-polskich. Stąd w 1703 roku Szwedzi ostrzeliwali oblężony Toruń, tym samym ściągając na zamek kontratak wojsk polskich, które ostrzelały zamek, niszcząc jego część mieszkalną. W XVIII wieku zamek był własnością rodu Dębskich, natomiast po rozbiorach działała w nim gorzelnia. W roku 1813 czterdziestu Francuzów pod dowództwem porucznika Savary wytrzymało w zamku trzymiesięczne oblężenie Rosjan, kapitulując dopiero wraz z Toruniem. Zamek przetrwał do dzisiaj w postaci ruiny, zachowały się imponujące mury obwodowe, 2-kondygnacyjna wieża bramna i obwarowania. W latach 1998-2000 prowadzono na zamku badania wykopaliskowe.
Zgodnie z zaleceniami konserwatora zabytków, Zamek Dybowski – jak wiele innych tego typu obiektów w Polsce - ma zostać utrzymany w stanie tzw. trwałej ruiny, by zachować unikalny charakter miejsca. Utrzymywanie obiektów w stanie trwałej ruiny jest zaleceniem Polskiego Komitetu Narodowego Międzynarodowej Rady Ochrony Zabytków. W tym konkretnym przypadku jest to najlepsze rozwiązanie, gdyż nie zachowały się żadne przekazy ikonograficzne wskazujące, jak niegdyś wyglądał. Zamek jest bowiem częściowo zburzony już od XVI wieku. Nie znaczy to jednak oczywiście, że powinien niszczeć. Miasto przez lata robiło wszystko, by tak się nie działo. Kilka lat temu prowadzone były badania archeologiczne i prace remontowe murów przedzamcza, zabezpieczono luźne cegły, naprawiono drogę dojazdową, zainstalowano przyłącze energetyczne, zarówno dla potrzeb iluminacji świetlnej (co było niezbędne, gdyż zamek, jak większość zabytków w Toruniu, jest oświetlony), jak i dla potrzeb przyszłego gospodarza obiektu.
Jednocześnie miasto od wielu lat poszukiwało dla Zamku Dybowskiego odpowiedniego dzierżawcy, który -wprowadzając tu użytkową funkcję - zagwarantowałby konieczną ochronę substancji zabytkowej. Od 2005 r. ogłaszano kilka przetargów na dzierżawę, lecz nie było chętnych. Co prawda w okresie wiosenno-letnim teren był wynajmowany na różnego typu imprezy (np. Turniej Rycerski, rajdy turystyczne, zawody balonowe), ale nie znalazł się nikt, kto chciałby na stałe zająć się obiektem.
- Potencjalnych dzierżawców odstraszał zapewne fakt, że podstawowym warunkiem konserwatorskim do zagospodarowania terenu Zamku Dybowskiego jest zachowanie oryginalnej substancji zabytkowej zamku w formie trwałej ruiny, malowniczo wkomponowanej w zieleń łęgów nadwiślańskich i Kępy Bazarowej, tworzącej łącznie zespół architektoniczno-krajobrazowy podlegający ochronie – mówi dyrektor Wydziału Gospodarki Nieruchomościami UMT Wiktor Krawiec.
- Przyszły właściciel winien zagwarantować realizację społecznego celu ochrony zabytku o szczególnie wysokiej wartości historycznej, przez udostępnienie obiektu dla społeczności lokalnej oraz turystów, w sposób licujący z wartością tego zabytku, zarazem nie zacierający czytelności jego pierwotnej funkcji i utrwalonej tradycją wyglądzie.
W końcu, po wielu latach, znalazł się ktoś, kto chce tchnąć w zamek nowe życie. Jest to miłośnik zabytkowej motoryzacji i historii Zbigniew Mikiciuk - założyciel i właściciel Muzeum Motoryzacji i Techniki w podwarszawskich Otrębusach. Nowy gospodarz ostro bierze się do dzieła. Już w połowie maja planuje pierwszą wystawę.
- Wystawa inauguracyjna będzie związana z motoryzacją, ale w tak malowniczym miejscu nie zamierzam ograniczać się tylko do jednej tematyki. Wierzę, że uda mi się stworzyć z Zamku Dybowskiego szczególne miejsce. Na pewno nie będzie tam dyskoteki – zastrzega Zbigniew Mikiciuk. – Zamek będzie miejscem wystaw muzealnych, spotka©ń i wydarzeń nawiązujących do swojej historii, a także do dziejów Torunia. I tak np. w tym roku mija 200 lat od czasu, kiedy w zamku wojska napoleońskie broniły się przed Rosjanami. Warto przypomnieć to wydarzenie. Oczywiście z udziałem grup rekonstrukcyjnych. To jeden z pomysłów. Na razie nie chcę zdradzać więcej, żeby nie zapeszyć. Powiem tylko, że jeszcze przed wakacjami chcemy otworzyć tu kawiarnię. Oczywiście – po toruńsku, z dobrymi piernikami.
Nowy gospodarz zapewnia, że Zamek Dybowski nie będzie miejscem oderwanym od toruńskiej rzeczywistości. Że będzie dostępny dla turystów i torunian, i że dużo ciekawych rzeczy będzie się tu działo. – Marzy mi się stworzenie takiego miejsca, które każdy uzna za swoje i do którego każdy będzie chciał wracać – dodaje Zbigniew Mikiciuk.