Nowy Pałac Opatów wzniesiono w pierwszej połowie XVII wieku. W dniu 10.03.1637 roku przeor Maciej Prätorius (1634 - 1639) położył kamień węgielny pod jego budowę. Niska wówczas parterowa rezydencja miała być przeznaczona dla opata Jana Grabińskiego (1630 - 1638). Można ją obejrzeć m.in. na obrazie Andrzeja Stecha z 1686 roku znajdującym się w głównym ołtarzu katedry.
W nocy z 10 na 11 lutego 1646 roku za czasów opata Aleksandra Kęsowskiego (1641 - † 09.03.1667) nocowała tu księżniczka Mantui Ludwika Maria Gonzaga podróżująca z Francji do Warszawy przez Gdańsk by poślubić króla Władysława IV.

Za czasów opata Franciszka Mikołaja Zalewskiego (06.05.1722 - † 07.06.1740) jeszcze przed 1740 rokiem postawiono nową również parterową budowlę z wysuniętą przed ścianę budynku częścią fasady od strony południowej. Wygląd pałacu od strony północnej przedstawia obraz znajdujący się w wybudowanym w 1746 roku kościele w Różynach, leżącym na szlaku pielgrzymek opackich.
W pałacu mieszkał, i przyjął gdańską delegację przebywający w opactwie w dniach od 19 do 29.07.1734 roku król August III Sas. W dniu 26.07.1974 roku urządził w ówczesnym parku ucztę na cześć swej protektorki carycy Anny Iwanowny. Jednak zanim uczta się zaczęła Oliwę nawiedziła ulewa i cała uroczystość przeniesiona została do pałacu i refektarzy klasztornych.

W latach 1754-1756 na polecenie ostatniego polskiego opata Józefa Jacka Rybińskiego (08.04.1740 - † 1782) architekt Efraim Szreger postawił dwupiętrowy Nowy Pałac Opatów z wykorzystaniem cegieł porozbiórkowych z wcześniejszych budowli.
Miał on wówczas otwartą na parterze galerię a na piętrze znajdowały się pokoje opata i sala do przyjmowania gości. Opat Jacek Rybiński mieszkał w nim aż do śmierci w dniu 15.04.1782 roku.
W dniu 13.07.1777 roku gościem w pałacu był Johann Bernoulli (ur. 1744, zm. 1807 r.) szwajcarski astronom, który w 1779 roku opisał jego wnętrze. Wraz z nim w pałacu gościli gdańszczanie: Nathanael Matthäus Wolf (ur. 1724, zm. 1784 r.), Johann Peter Ernst Scheffler i Strauchmüller. Kilkakrotnie gościł w pałacu Ignacy Krasicki: w sierpniu 1768 r., lipcu 1777 r., w końcu września 1788 r. oraz w dniach 9-15 sierpnia 1791 roku.

Następnymi właścicielami Pałacu byli opaci komisaryczni wyznaczeni przez króla pruskiego Fryderyka Wilhelma II i Fryderyka Wilhelma III, który gościł w nim w dniu 01.06.1798 roku. W latach 1782-1803 opat Karol Hohenzollern-Hechingen (1778 - † 11.08.1803 w Oliwie). W latach 1803-1836 opat Józef Hohenzollern-Hechingen († 26.09.1836 w Oliwie).
Hohenzollernowie zapisali się w historii, jako opaci roztrwaniający kosztowności pocysterskie a pułkownik Karol znany był wcześniej, jako lew salonowy ("bon vivant"). Jednak to on, gdy zamieszkał w pałacu mając wówczas 50 lat zadbał o zabudowania klasztorne i przyczynił się do powiększenia parku aż po wzgórze Pachołek.
Od 1836 roku Pałac stał pusty aż do 1869 roku, kiedy zamieszkała w nim księżna Maria Hohenzollern-Hechingen, gorliwa katoliczka, kuzynka króla pruskiego Fryderyka Wilhelma IV. Przeznaczyła ona wówczas 85 talarów rocznie dla kościoła i 15 talarów na utrzymanie parku. Z jej polecenia wstawiono okna w zachodniej części galerii. Udostępniła Ona również cześć parku oliwskiego dla zwiedzających. Mieszkała w pałacu do śmierci w 1888 roku.

Po śmierci Marii pałac zajmowany był dorywczo przez pruskich dygnitarzy. W maju (03.05) 1910 roku obchodzono uroczyście w samej Oliwie i w pałacu 250 lecie Pokoju Oliwskiego. W dniu 13.07.1913 roku zorganizowano tu "święto ogrodu królewskiego w Oliwie".

W 1919 roku Aleksander Majkowski próbował umieścić w pałacu zbiory Muzeum Kaszubsko-Pomorskiego z Sopotu. Jednak pałac przeznaczony został władzom Oliwy, które urządziły w nim biura i mieszkania. Próbowały nawet przeznaczyć pałac na lokal rozrywkowyGazeta Gdańska. Gdańsk, niedziela, 21-go stycznia 1923 roku: * O zamek oliwski. Wiadomość o zamierzonem przekształceniu zamku oliwskiego na hotel wywołała oburzenie w całej prasie polskiej. Obecnie pisze w tej sprawie "Pomorzanin": Kilkakrotnie już robiono propozycje zachowania zamku i ogrodu oliwskiego w imię tradycji; poruszano kwestję założenia botanicznego ogrodu i szkoły ogrodniczej; była też myśl założenia akademji sztuk pięknych, proponowano także oddać zamek papieskiemu delegatowi na W. M. Gdańsk na rezydencję - teraz chce się tam urządzić szynkownię (kneipę) i niestety ma ta myśl "modnego" wyzyskania widoki urzeczywistnienia się. Naturalnie napotyka ten projekt na liczne sprzeciwy i oburzenia mianowicie w Oliwie samej; gdzie noszą się z myślą założenia "Towarzystwa przyjaciół zamku oliwskiego", któreby przejęło zamek i ogród w dzierżawę i w ten sposób zachowało przed projektowanem „nowoczesnem przekształceniem". żywi się nadzieję, że ten plan za poparciem władzy biskupiej i kół katolickich W. M. dojdzie do skutku. i kasyno na co, po protestach, nie wyraziły zgody władze Wolnego Miasta Gdańska.

W dniu 01.05.1927 roku powołano, a w dniu 18.03.1928 roku po renowacji (wówczas prawdopodobnie wstawiono okna w części wschodniej galerii) otwarto w pałacu Narodowe Muzeum Historyczne Miasta Gdańska ("Staatliches Landesmuseum für Danziger Geschichte"), nazywane również Muzeum Zachodnio Pruskiej Historii ("Museum für Westpreußische Geschichte"), w którym znajdowały się eksponaty ukazujące zgodnie z ówczesną polityką dzieje ziemi gdańskiej. Dyrektorem Muzeum został Erich Keyser i pełnił tę funkcję do końca jego funkcjonowania.
Prócz wystawy stałej w muzeum urządzano wystawy tymczasowe, min. w 1928 roku „750 lat Oliwy”, 02.10.1928 „Starodruki ze zbiorów Biblioteki Miejskiej”, 26.07.1931 „475 lat cechu krawców gdańskich”.
W dniu 02.05.1937 roku muzeum obchodziło 10-lecie swego istnienia. W święcie tym uczestniczył gauleiter Gdańska Albert Forster. Od tego dnia w skład stałej ekspozycji weszły rekonstrukcje dawnych wnętrz mieszczańskich.
Zbiory muzealne w tym czasie liczyły 55 tysięcy eksponatów, w tym: monety i medale, zabytkowa broń, meble (150), obrazy, rysunki i grafiki (5800), dawne stroje, mundury, plany i mapy (1000), karty pocztowe i widokówki (2 tys.), zdjęcia (15400), książki i rękopisy (6 tys.).

Pod koniec wojny pałac wykorzystano jako magazyn materiałów wojskowych a wywiezione eksponaty nie zostały zlokalizowane.

Budynek został podpalony przez wycofujące się wojska niemieckie w czwartek wieczorem dnia 22.03.1945 roku. Ponieważ wiatr wiał wówczas od strony katedry ona ocalała, ale spalił się również Stary Pałac Opatów. Po wygaśnięciu pożaru pozostały jedynie wypalone ściany.
W 1947 roku zabezpieczono prowizorycznie ściany oraz planowano wykonać zadaszenie. Zadaszenia nie wykonano co spowodowało że w 1956 roku runęła ściana wewnętrzna w części zachodniej.

W 1947 roku Jan Kilarski pisał:
Najwybitniejszą pamiątką po rządach i gospodarce polskich opatów w Oliwie był piękny OPACKI PAŁAC, wzniesiony z myśli i staraniem opata Rybińskiego (1740-1782) - niestety w działaniach wojennych spalony. Istnieje nadal przez niego stworzony przepiękny park i podziw budzące organy. W pałacu tym szowinistyczna nauka i propaganda niemiecka zorganizowała muzeum "regionalne", którego jedynym celem było wmawiać w obowiązkowo kierowaną tu młodzież, wojsko i partyjne zespoły, że ziemia ta i wszelkie jej dobro odwiecznie niemieckie są. Zbiory te, stąd ewakuowane, niemal w zupełności uległy zagładzie. Pałac opata Rybińskiego odbudujemy; pomieści on kiedyś muzeum polskiego morza i Pomorza; w nim zgromadzą się świadectwa prawdy przeszłości tej ziemi i polskiego do niej prawa.

W 1947 roku ks. mgr Kazimierz Mirynowski pisał:
W parku w kierunku południowo-wschodnim od głównego ołtarza katedry wznosi się piękny zamek, dzieło ostatniego opata z wyboru, Józefa Jacka Rybińskiego, który go wzniósł w latach 1750-1754. Jest to wspaniały przykład rokoko, zwłaszcza piękna była sala muzyczna pierwszego piętra z ładną ornamentacją właściwą stylowi. Z bólem patrzał ostatni opat ze swego wspaniałego zamku na pierwszy rozbiór Polski, upadek opactwa i klasztoru. Po pierwszym rozbiorze Fryderyk Wielki kasuje klasztor, konfiskuje dobra zakonne, opatowi poleca wypłacić 4.000 talarów. Jakiś czas pałac nie był zupełnie zamieszkiwany. Za czasów Wolnego Miasta Gdańska urządzono w gmachu muzeum krajowe. W 1945 roku odstępujący Niemcy gmach podpalili; obecnie pozostały tylko smutne ruiny.

W 1959 roku Jerzy Stankiewicz i Franciszek Mamuszka pisali:
Budynek piętrowy, podpiwniczony, wzniesiony częściowo z porozbiórkowych cegieł gotyckich; obie fasady ozdobione są sztukateriami rokokowymi, od strony południowej w oknach przyziemia i na balkonie widać kraty żelazne o formach rokokowych, od strony północnej kamienny portal wejściowy z ozdobną rokokową kartą żelazną, w nadświetlu splecioną z inicjałów opata Rybińskiego. W narożu sieni południowej stoi kamienny kominek rokokowy, z którego płyta żeliwna znajduje się obecnie koło spichrza opackiego. Nad sienią południową pokój muzyczny (rys. 17) z rokokowymi sztukateriami (w znacznym stopniu zachowanymi). Trzeba podkreślić, że pierwotnie południowe pomieszczenia przyziemne stanowiły rodzaj otwartej letniej galerii i dopiero w czasach późniejszych założono tam okna. Obecnie trwa odbudowa obu części pałacu opackiego, przeznaczonego na pomieszczenia Muzeum Etnograficznego.

W 1965 roku Nowy Pałac Opatów został odbudowany staraniem Muzeum Pomorskiego i częściowej niewielkiej dotacji z NFOS. Pracę nad odbudową rozpoczęto w 1958 roku. Stan surowy zakończono w 1960 roku.

Nowy Pałac Opatów przekazano Muzeum Pomorskiemu w dniu 29.09.1965 roku. Otwarto tu wówczas stałą etnograficzną ekspozycję Sztuki Ludowej Pomorza Gdańskiego XVIII-XX wieku.
W lipcu 1967 roku przekształcono ją w stałą ekspozycję zatytułowaną "Sztuka ludowa Kaszub i Dolnego Powiśla".

Nowy Pałac Opatów wpisany został do rejestru zabytków pod numerem 361 (aktualnie nr 64) w dniu 20.04.1971 roku.

W latach 80-tych XX wieku na starym dziedzińcu (cour d'honneur) odkryto na głębokości 50 cm bruk z kamieni polnych, położony tu w niewiadomym czasie.

W 1989 roku zbiory etnograficzne przeniesione zostały do odremontowanego Spichlerza Opackiego, a w pałacu eksponowano zbiory sztuki współczesnej zapoczątkowanej w dniu 21.03.1967 roku i mieszczącej się wówczas w Starym Pałacu Opatów.
Od 1990 roku mieści się w Pałacach Opatów Oddział Sztuki Współczesnej Muzeum Narodowego w Gdańsku.

W Pałacu Opatów organizowane są również wystawy czasowe, koncerty w sali muzycznej i sesje naukowe. Oto kilka z nich:
1971-07 - zaprezentowano obrazy z wystawy zatytułowanej "Twórcy szkoły sopockiej", 1972-03 - wystawiono 175 obrazów Hanny Rudzkiej-Cybisowej (50 lecie twórcze artystki), 1976-07 - zaprezentowano 126 rzeźb i 48 rysunków Aliny Szaposznikow, 1976-10 - wystawa rysunków i grafiki prof. Maksymiliana Kasprowicza, 1984-04 - wystawa współczesnego malarstwa światowego - dzieła przekazane przez Halinę Nałęcz, 1988-04 - sesja naukowa pod tytułem "Antropologia Kaszub i Pomorza ze szczególnym uwzględnieniem XIX i XX wieku".