日耳曼一词有广义与狭义之分：狭义的日耳曼人是指以德语为母语的民族，包括如今的德国、奥地利、瑞士；而广义的日耳曼人正是“日耳曼”一词最初的定义——指的是罗马帝国口中的三大蛮族之一。当时罗马帝国称生活在罗马疆域之外的凯尔特人、日耳曼人、斯拉夫人为欧洲三大蛮族，其中日耳曼人是对生活在莱茵河、易北河一带的民族的统称。他们之间有共同的金发碧眼、体型高大等特征，彼此之间有一定的血缘关系，语言基本可通，然而他们在迁徙中形成了不同的部落和联盟，一般来说他们的自我定位会首先强调本部族的身份认同，而不是自称日耳曼人。所谓日耳曼人的概念是后世对这些语言风俗相近的部族的统称。古代的日耳曼人一个非常庞大的族群概念——正如斯拉夫人这一概念之下囊括了今天的俄罗斯人、乌克兰人、白罗斯人、波兰人等不同民族一样：在日耳曼人这一概念之下囊括了法兰克人、东哥特人、西哥特人、汪达尔人、勃艮第人、盎格鲁人、萨克森人等等。公元前1世纪在亚欧大陆的东西两端同时出现了两位雄心勃勃的帝王：中国的汉武帝刘彻和罗马的凯撒大帝，他们都对开疆拓土具有浓厚的兴趣——汉武帝派兵远征匈奴，遣张骞出使西域；凯撒则征服了高卢和不列颠。这两次开疆拓土的远征分别被记载在《史记》和《高卢战记》中，与此同时这两部著作都记载了作为对手的匈奴人和日耳曼人的剽悍善战。在人类文明的古典时代像匈奴和日耳曼这种游牧渔猎部族出于自身经济的脆弱性往往会以劫掠相对富庶的农耕民族维持生计，当汉帝国和罗马帝国处于全盛时期自然有实力应对偶发性的劫掠行为。但在公元3世纪之后东西方两大帝国同时出现中衰的迹象，之后两大帝国都不同程度受到蛮族的侵袭——在中国这被称之为“五胡乱华”，在罗马被称之为“蛮族入侵”。

在西迁的匈奴人的冲击之下日耳曼各部如潮水般涌入到罗马帝国境内：公元378年西哥特人在亚得里亚堡大败罗马军队并将率兵亲征的罗马皇帝瓦伦斯杀死。公元410年西哥特首领阿拉里克率众攻破了号称永不陷落的罗马城，随后西哥特人又向高卢和西班牙进军并在这里建立了西哥特王国。公元406年汪达尔人、苏维汇人和阿兰人一道涌入高卢，经过数年的劫掠后又进入西班牙。苏维汇人占据了今天的葡萄牙以及西班牙西北部；汪达尔人则和阿兰人越过直布罗陀海峡进入北非。439年汪达尔人占领罗马帝国在北非的首府迦太基，455年更是渡过地中海攻陷罗马城。而西罗马帝国的统治中心意大利本土则被东哥特雇佣军控制，正是以公元476年东哥特雇佣军首领废黜西罗马末代皇帝为标志宣告了西罗马帝国的灭亡，此后东哥特人在公元493年建立了统治意大利和西西里岛的东哥特王国。除此之外勃艮第人、伦巴德人也都各自建立了自己的国家。盎格鲁人、撒克逊人、朱特人则渡过英吉利海峡在不列颠岛上建立了七个王国。不过这些日耳曼国家大多如昙花一现，很快又归于沉寂，相比之下法兰克王国才是西罗马帝国灭亡后欧洲历史舞台的主角。

法兰克王国在查理曼大帝统治时期的疆域囊括了今天的大部分法国、德国、瑞士、奥地利和低地国家以及意大利的一个地区和许多的边界地区。直到58岁时已统一西欧的查理曼仍不满足于自己的功业——他写信给当时50岁但据说还风韵犹存的拜占庭女皇依伦娜，建议两人结婚，以统一全欧洲。然而不久之后依伦娜就在拜占庭帝国的一场宫廷政变中被放逐，查理曼通过联姻统一欧洲的计划就此泡汤。查理曼不仅没能实现他统一欧洲的夙愿，他也终究没能摆脱欧洲中世纪封建采邑制度下王国分崩离析的命运：为避免自己死后帝国被瓜分的命运查理曼在生前明确指定自己的长子“虔诚者”路易一世继承整个帝国，然而路易去世后路易的3个儿子于843年8月在凡尔登签订条约，正式瓜分了查理曼帝国的疆土。根据该条约所划分的疆界形成了西法兰克王国（843年-987年）、中法兰克王国（843年-855年）和东法兰克王国（843年-911年）三国，经过870年《墨尔森条约》的调整成为后来的法兰西王国、意大利王国和德意志第一帝国三个国家的雏形。日后的德意志正由东法兰克王国演化而来：东法兰克王国在发展过程中其内部进一步分化形成了许多公国——其中比较著名的有萨克森、士瓦本、法兰克尼亚、巴伐利亚等等，其中最大的就是萨克森。正是这些公国共同构成了日后的德意志地区，而由于这些公国彼此之间的牵制，德意志形成了特殊的选帝制度——德意志皇帝是由各公国共同选举出来的，而首开这一先例的正是萨克森公国的亨利一世公爵。这位亨利一世有一个“捕鸟者”的绰号，据说是因为他当选时还在专心致志地捕鸟。不知他究竟是心大呢，还是故意以此掩饰自己内心的雄心壮志就不得而知了。然而亨利一世冕时拒绝了涂油礼，因此他的王位一直没能得到教会的承认。而且严格意义上此时的德意志还只是一个王国，而不是帝国，所以亨利一世终其一生的头衔不过是德意志国王（king），而且还是未获教会承认的king，而不是德意志皇帝（emperor）。真正意义上第一位戴上德意志皇帝这一桂冠的是他的儿子奥托一世。

公元936年奥托继承了亨利一世的萨克森公爵之位，与此同时他作为德意志最大公国的君主也顺理成章地成为德意志国王。在当时的德意志国王可不是什么至高无上的神圣君主，充其量就是各路公爵在实力势均力敌之时推出来充门面的人物。就在奥托继位的第二年他的异母兄弟唐克马尔就联合巴伐利亚、洛林等地的贵族造反作乱，这时奥托异常清醒地意识到：贵族们内部也并非铁板一块——巴伐利亚、洛林这些大贵族们上架空王权，下有心吞并其他中小贵族的封地，这就给王室利用他们彼此之间的矛盾进行分化瓦解提供了良机。在这一理念指导下奥托同中小贵族结成了反对大贵族的同盟，尽管这些中小贵族实力有限，可加起来也是一支不可小觑的力量，更何况背后还有身为国王的奥托的鼎力支持，于是他们很快就镇压了反对国王的大贵族叛乱：唐克马尔在部众向奥托投降后自杀，法兰克公爵被迫求和，奥托从容收拾巴伐利亚，赶走了阿诺尔夫公爵，任命其弟贝特霍尔特既位，但同时收回了巴伐利亚公爵相当一部分权力，944 年贝特霍尔特死后奥托任命自己的弟弟亨利为巴伐利亚公爵。然而这样做仅仅只能治标而不能治本，紧接着奥托由出台了从根源上打击地方贵族的政策：937年奥托一世改传统的公爵世袭制为国王任命制——这意味着德意志境内的任何公爵贵族死后其爵位的继承归属都必须获得王室的认可才能作数。与此同时奥托禁止公爵同教会势力接触，一面地方公爵同教会势力勾结起来反对自己。之后奥托综合运用武力征伐和政治联姻等手段把各公国的公爵都换成了自己的左膀右臂：洛林公爵是他女婿，士瓦本公爵是他儿子，巴伐利亚归他弟弟，萨克森和法兰克尼亚由他亲自领导，德意志的局势看起来一切都掌握在奥托手中。然而在公元953年奥托的儿子和女婿因为权力分配问题而心生不满，于是联合大主教反对国王。在镇压了这一事件后奥托对自己的家人也不再相信，他于954年召开帝国会议重新分配土地，将各公国的实权直接掌控在自己手中。从此奥托的权威在德意志境内再也没有受到过挑战。

奥托在成功解决内忧之后开始着手应对外患：东面的马扎尔人是这一时期德意志面临的最大外患，而这一时期奥托也致力于向东欧扩张，两股势力之间注定将会发生冲突。公元950 年奥托迫使波希米亚（今捷克）公爵对自己称臣纳贡，这样一来奥托的领地就和马扎尔人的地盘直接接壤了。954 年马扎尔人主动发起入侵，奥托御挂亲征在955年的莱西费尔德战役中由他率领的德意志和波希米亚联军几乎完全歼灭了马扎尔骑兵，因为此战他被尊称为“伟大的奥托”、“祖国之父”。奥托还为后世的德意志开创了一项传统：每个有作为的德意志国王都要进军意大利并在意大利加冕为皇帝。这一传统肇始于公元961 年——这一年罗马教皇受到意大利城市贵族的威胁，于是教皇约翰十二世向奥托求援。后者闻讯之后率军越过阿尔卑斯山并很快敉平了罗马的叛乱，吞并伦巴底国家，扶正了教皇的位子。962年2月2日教皇约翰十二世在罗马圣彼得大教堂为奥托加冕，奥托从此成为“神圣罗马帝国”的皇帝，德意志由王国正式升级为帝国——德国历史上也称神圣罗马帝国为德意志第一帝国。德意志第一帝国鼎盛时期的疆域包括如今的奥地利、瑞士、法国东部的阿尔萨斯和洛林、意大利北部地区、捷克、斯洛伐克等地，曾是欧洲最强大的国家和欧陆秩序的主导者，然而德意志第一帝国始终未能解决国内诸侯权力过大的问题。1356年德意志第一帝国皇帝查理四世发表的黄金诏书进一步确认了地方诸侯的自主权，德意志的分裂局面愈演愈烈。到了1618年德意志境内出现了390个公国、侯国、贵族领地、骑士领地割据一方的现象，各路诸侯领地在当时欧洲宗教改革的大环境下各自信奉天主教和新教的不同教派，也就是在这一年有史以来第一场几乎将整个欧洲卷入的战争——三十年战争爆发。在三十年战争期间德意志沦为了主战场，战后欧洲列强制定了旨在维持欧洲大陆均势体系的威斯特伐利亚体系，在这一体系之下德意志的分裂局面被固定下来。分裂的德意志自然无法与新兴的英、法等国抗衡——尽管德意志第一帝国的正式国名是神圣罗马帝国，然而伏尔泰却说：“神圣罗马帝国既不神圣，也不罗马，甚至不能称之为一个帝国”。这时的德意志第一帝国尽管保留着帝国的名号，实际上已彻底沦为各路诸侯势力的松散联盟，虽有帝国之名而无帝国之实，而德意志皇帝的头衔也逐渐落入当时势力最强大的德意志诸侯奥地利哈布斯堡家族手中——奥地利哈布斯堡王朝的皇帝同时身兼神圣罗马帝国（德意志第一帝国）的皇帝，1806年哈布斯堡家族的弗朗茨二世迫于法国皇帝拿破仑的压力而放弃神圣罗马帝国皇帝的称号，至此德意志第一帝国的历史彻底画上句号，从此德意志各邦国连名义上的共主也不复存在。