在非洲和亚洲中间，有一片叫做阿拉伯的大沙漠。4000年以前，一个被叫做“塞姆族”（又被称为“闪族”）的游牧民族为了寻找水草，赶着他们的羊群在这片沙漠中到处寻找牧场。
在大沙漠的北方，有一块特别富饶的土地。它的形状像一弯新月，被称为“新月形沃土”。每当塞姆人赶着牛羊来到这里的时候，当地人便把他们赶走。塞姆人把这里看作天堂，他们特别想在这里放牧生活。他们对当地人发动了无数次进攻，经过多次失败，最后，他们终于占了这个地区。
塞姆族中有一支叫做希伯来人的部落。希伯来人想占有新月形沃土中一条狭长地带，就是今天的巴勒斯坦。希伯来人早就听说这里被人叫做“流着奶和蜜的地方”。但是这里早已被一个叫做迦南人的部落占领。为争夺这块土地，希伯来人同迦南人进行了许多年的战争。迦南人十分英勇，希伯来人根本就不是对手。
被迦南人打败的希伯来人处境十分的困难。全族的人聚到一起，商议部落今后的出路。一个老人说，在一个遥远的地方，有一个遍地羊群，年年五谷丰登的好地方。到过那里的人都将它称为“天堂”，它就是埃及。如果想要希伯来人过上幸福的生活，只有去那里。全族人最后一致同意老人的意见，离开巴勒斯坦，前往埃及。
大约在公元前1700年，族长以色列带领所有的希伯来人离开了巴勒斯坦，经过辛难万险，来到了尼罗河三角洲东部的草原，并在那里定居下来。
埃及真是一个十分美好的地方，希伯来人在这里安定地生活了几百年。
大约在公元前1300年左右，埃及的法老拉美西二世要建造两座巨大的宫殿。他把希伯来人变成了奴隶，让他们开山挖石，服各种苦役。过了几十年，拉美西斯二世死了，埃及受到来自四面八方的野蛮民族和海盗的入侵。
希伯来人的首领摩西乘机带领全族人越过红海，逃出了埃及。在逃离埃及的行程中，希伯来人受尽苦难，他们缺水少食，风餐露宿，每天行走在大沙漠中，有不少人想返回埃及，宁可重新当奴隶，也不愿再受这种路途之苦。
摩西看到他的族人对命运失去了信心，十分的痛苦。一天，当他们经过西奈山麓的时候，摩西爬上山顶。在山顶，摩西呆了足足40天。下山后，他对色列人说，他见到了耶和华（希伯来人敬奉的神），并得到他的圣谕，有了它希伯来人就能交好运。后来，摩西成了犹太教的创始人。
逃出埃及后，摩西对希伯来人说，只有回到迦南，才是唯一的出路。但是大多数希伯来人没有勇气同勇猛强悍的迦南人进行战斗。摩西只好带着希伯来人到处流浪。40年过去了，摩西已经成为一个衰弱的老人。不久，摩西去世了。接替摩西领导希伯来人的是约书亚。这时希伯来人的新一代已经成长起来。经过长期艰难生活的磨炼，年轻的希伯来人个个成为强悍勇敢的战士。约书亚带领他们经过无数次的战斗，终于渡过了约旦河，在迦南定居下来。
约书亚之后的希伯来人的首领，是一位名叫参孙的勇敢的战士。参孙的力气非常大，能空手撕裂猛狮，曾经用一块驴肋骨打死了1000个敌人。
参孙死后，希伯来人仍旧生活在动荡之中。由于当时的希伯来人还分成了许多小部落。其中较大的部落，一个叫以色列，一个叫犹太。由于一直没有能够使所有希伯来人佩服的人出现，有很长时间希伯来人的各个部落没有统一的领袖。正当希伯来人处于分裂状态时，来自地中海沿岸岛屿的一个叫做腓力斯丁人的强大部落，向希伯来人发动了进攻。希伯来人没能抵挡住腓力斯丁人的进攻。连本族的圣物“约柜”，也让腓力斯人抢走了。
就在犹太民族四分五裂的时候，有一个名叫扫罗的勇敢的年轻人，在一次迎击敌人的进攻中表现得十分勇猛、机智和果断，成了全体希伯来人尊敬的英雄。全体希伯来人一致推选他为希伯来的新王，为他举行了希伯来人最隆重的涂油圣礼，把油涂在扫罗者的身上，承认他为希伯来人的最高首领。后来，扫罗王因为在一次战斗中失败而自杀了。
扫罗死后，一个有勇有谋，名字叫大卫的青年登上了王位。他曾经是一个强盗头，后来被扫罗收服，成了扫罗的带兵官。大约在公元前1000年，大卫率领犹太人将腓力斯丁打败，并从腓力斯丁人手中夺回了圣物“约柜”。
不久，大卫的军队又攻下迦南人的一个叫耶路撒冷（意思是“和平之城”）的小城市。因为大卫出身犹太部落，他就把他建立的国家称为犹太王国，并把首都建在耶路撒冷，将圣物“约柜”供奉在耶路撒冷的神殿中。大卫还在在耶路撒冷大兴土木，修建宫殿和神殿，自己也过上豪华的帝王生活。大卫死后，他的儿子所罗门继承了王位。所罗门是一个很聪明的国王。一天，一名官员带着两个妇女和一个孩子到所罗门那里。他对所罗门说，这两个妇女都说孩子是自己的，他无法判定，因此他只好将她们带到这里。所罗门稍想了一下，就对手下人说，既然无法判定谁是孩子的母亲，那就用剑将孩子劈成两半，两人各得一半。这时，其中的一个妇女大哭起来，向所罗门请求，她不要孩子了，只求不要伤害孩子，另一个妇女却无动于衷。所罗门哈哈一笑，对那个官员说：“现在你该知道，谁是那个孩子的真正的母亲了吧。任何一个母亲都不会让别人伤害自己的孩子的。
所罗门时代是犹太人历史上最繁荣的时代。所罗门同时也是一个比他父亲更加追求享受的国王。他下令继续修建许多的宫殿和神殿，其中最宏伟的是位于耶路撒冷小山上的宫殿和犹太教圣殿。耶和华的“约柜”也被送到新落成的圣殿中。在许多世纪中，这个圣殿成了团结犹太人的象征。
公元前586年（中国春秋的时候），犹太国被巴比伦灭亡，耶路撒冷全城的犹太人都成了俘虏，被称为“巴比伦之囚”。60年以后，巴比伦又被波斯征服了。波斯王居鲁士释放了囚禁在巴比伦的犹太人。但是，犹太人在回到耶路撒冷之后，并没有过上和平的生活，不时的遭到外族的侵犯。犹太人在绝望中，只好把希望寄托于“弥赛亚”（救世主）的来临。在“巴比伦之囚”5个世纪之后的公元66年，罗马总督提图斯掠夺耶路撒冷神殿和宫殿里的宝物，遭到犹太人的坚决反抗。斗争继续了4年，到公元70年，整个耶路撒冷被提图斯淹没在血泊中，他屠杀了全城的犹太人，另外有9．7万人被变卖为奴隶，有的送到矿山采矿，有的成了罗马斗兽场的角斗士。
此后，犹太人便离开了耶路撒冷，散落到世界各地。有的甚至来到中国，居住在开封等地。一直到第二次大战之前，犹太民族仍然是一个没国家的民族。