Auch in der Zeit nach dem Zweiten Thorner Frieden blieb das Verhältnis zwischen dem Deutschen Orden und Polen von Konflikten belastet. In Erkenntnis seiner Schwäche versuchte der Orden sein Land dynastisch mit dem Reich zu verknüpfen, indem er die Hochmeisterwürde auf Sprösslinge deutscher Fürstenhäuser im Mutterland übertrug. Erstes Ergebnis solchen Bemühens war die Wahl des Herzogs Friedrich von Sachsen aus dem Geschlecht der Wettiner im Jahr 1498 zum Ordens-Hochmeister sowie nach dessen Tod im Jahr 1510 die Wahl des Markgrafen Albrecht von Brandenburg-Ansbach aus der fränkischen Linie der Hohenzollern. Das war der Beginn der Verbindung des Begriffs Preußen mit der Dynastie Hohenzollern. Albrecht war ein mutiger Mann. Vom Reich zunächst ermutigt, riskierte der Hohenzoller im Jahre 1519 den offenen Kampf gegen den polnischen König Sigismund, der übrigens der Bruder seiner Mutter und somit sein Onkel war. Der von Albrecht begonnene sogenannte Reiterkrieg, der 1520 hauptsächlich im Ermland und im Weichselgebiet tobte, brachte zwar keinen militärischen, wohl aber einen politischen Erfolg. Nach vierjährigem Waffenstillstand kam es am 8. April 1525 zum Frieden von Krakau. Dieser entließ zwar Ostpreußen nicht - wie erstrebt - aus polnischen Lehensgewahrsam, doch gestattet er Albrecht im Rahmen der politischen Gesamtkonstellation, den Schachzug einer Staatsveränderung zu wagen, zu dem ihm auch der Reformator Martin Luther geraten hatte.

Dieser Akt, der der Verfassung des Landes einen völlig neuen, außerordentlich anpassungsfähigen Charakter verlieh, hieß: Umwandlung des geistlichen Ordenslandes in ein zwar zur Zeit noch Polen lehnbares, trotzdem aber schon verbrieft protestantisches erbliches weltliches Herzogtum.

Damit war praktisch auch der von Albrecht gehegte Wunsch, zum Luthertum überzutreten und den Ordensstaat zu säkularisieren, legalisiert. Schon vorher hatte die Reformation im Ordensland Fuß gefasst. So wurde das Ende der Ordensherrschaft im Land begrüßt, und mit ihrem Herzog nahmen die Untertanen den evangelischen Glauben an, während nur das Ermland katholisch blieb. Auch die meisten Ordensritter stimmten der Umwandlung in ein weltliches Herzogtum zu und legten ihren weißen Mantel mit dem schwarzen Kreuz ab.

Wenig bewusst war den Zeitgenossen die Abhängigkeit von der Krone Polens, die bis 1657 (Vertrag zu Wehlau) dauerte. Der Herzog blieb unbeschadet seines Lehnsverhältnisses zum Polenkönig deutscher Reichsfürst, und wenn sich der Lehnsherr in die Angelegenheiten Preußens einmischte, so geschah das weniger aus nationalen als aus ständischen Motiven. Der Charakter des Landes blieb unverändert. Eine volle Union mit Polen, wie sie Litauen 1569 schloss und wie sie Westpreußen in demselben Jahre unter Bruch der Verträge aufgezwungen wurde, blieb dem Herzogtum erspart.

Viel augenfälliger als der Wechsel des politischen Status war für die Menschen die Einführung der Reformation. Das Luthertum wurde Staatsreligion, aber der konfessionelle Einheitsstaat, sonst das Ideal der Zeit, hat in Preußen nie bestanden. Böhmische Brüder, calvinistische Holländer und später auch Mennoniten fanden in Preußen Zuflucht und konnten dort, geschützt von der Regierung, ihren Glauben leben, und dasselbe galt auch für die Katholiken, denen Glaubensfreiheit zugesichert war. Die nationale Toleranz war selbstverständlich in dieser Zeit. Die konfessionelle Toleranz, die Religionsfreiheit, musste gegen Eiferer in allen Lagern vom Landesherrn durchgesetzt werden. Sie wurde in Preußen verwirklicht als ein Gebot der Staatsführung, der politischen Klugheit, lange bevor sie in der Philosophie der Aufklärung ein weltanschauliches Fundament erhielt.

Im Jahre 1618 fiel das Herzogtum an die brandenburgischen Hohenzollern. Der Erbfall trat durch den Tod des Sohnes von Herzog Albrecht ein. Seitdem war Preußen mit Brandenburg in Personalunion vereint. Versuche Polens, die Übernahme der Herrschaft zu stören, endeten, als Brandenburg Polen 1627 ein Hilfskorps zur Abwehr des schwedischen Angriffs zur Verfügung stellte.

Mitte des 17. Jahrhunderts wurde das Herzogtum Preußen, das bis dahin von dem in Europa wütenden 30jährigen Krieg verschont geblieben war, in die schwedisch-polnischen Auseinandersetzungen hineingezogen. Durch geschicktes Taktieren mit beiden Gegnern wusste der Große Kurfürst deren Konflikt zu nutzen. So erreichte er, dass er sowohl die Oberlehnshoheit des polnischen als auch des schwedischen Königs, die er im Januar 1656 hatte anerkennen müssen, abschütteln konnte. Durch den Vertrag von Labiau erkannte der König von Schweden 1656 die Souveränität des Kurfürsten in ganz Preußen an, durch den Vertrag zu Wehlau gestand der Polenkönig ihm 1657 die Souveränität in Preußen ohne das Ermland zu. Diese wurden dann auch im Frieden von Oliva 1660 von den damaligen großen europäischen Mächten endgültig anerkannte und verbürgt.

Friedrich Wilhelm II., der Große Kurfürst, war der eigentliche Gründer des Preußenstaats. Im Innern beseitigte er vor allem in Ostpreußen die ständige Opposition der Landstände und ihre Gegenregierung sowie die Sonderrechte der Provinzen, schaffte die Basis für die absolute Macht der Krone und begann den Staat zum einheitlichen Ganzen zu verschmelzen. Wie die preußische Armee und Marine, so verdankt auch das preußische Beamtentum dem Kurfürsten sein eigentliches Werden, und auf sein Wirken geht auch die mustergültige altpreußische Finanzverwaltung zurück.