《小黃人》圍繞小黃人們的“前格魯時代”展開敘述，並特別追溯了小黃人的起源。小黃人總是忠誠地為主人提供各種服務，兢兢業業，毫無怨言，直到它們失手“害死”每壹任主人。在痛苦地失去壹個又壹個主人後，被困在冰洞之內小黃人們愈發焦躁不安，他們決定挺身而出，去到花花世界，再次尋找可以效勞的主人。
時值上世紀60年代，小黃人三人組無意間看到了“壞蛋大會”廣告，該大會聲稱世界第壹女壞蛋斯嘉麗·殺人狂會出席大會並發表演講。於是，三個小黃人搭上了銀行搶劫犯的順風車。在經歷了壹系列的坎坷之後，小黃人終於成為斯嘉麗的助手。它們為斯嘉麗執行的第壹個任務就是盜取英國伊麗莎白女王的皇冠，任務進展的十分順利，順利到呆萌的鮑勃竟然莫名其妙的成為新任國王，於是壹系列的麻煩接踵而至 。