Историята приема 2 април 742 година за рождена дата на Карл Велики. Но това е спорно твърдение, тъй като е получена чрез преизчисляване спрямо датата на смъртта му. В хрониката „Annales Petaviani“ датата на раждането му е 2 април 747 година, но това сведение е още по-съмнително, тъй като тази дата се пада на Великден, а подобно съвпадение би предизвикало повече коментари на съвременници. Днес за най-вероятни дати се смятат 1 април 747 година, 15 април 747 година и 1 април 748 година. По същите причини и сведенията за родното му място са противоречиви. Посочват се места като замъците Ингелхайм близо до Майнц и Карлхайм край Мюнхен, както и Аахен и Залцбург. Не е ясно дори и на какъв език е говорил бъдещият император на франките.
Знае се, че е най-големият син на Пипин Къси от брака му с Бертрада от Лаон, и е внук на Карл Мартел – човекът, спрял арабското нашествие в битката при Поатие през 732 година. Още от младежките си години Карл се отличава с доброто си здраве, смелостта си и умереността на характера си. Но по-важно е, че притежава жив ум и склонност да учи много и бързо. Още дете, Карл е обявен от баща си за наследник на престола – церемонията по помазването му е проведена, когато е едва на 12 години. От този момент той съпровожда баща си във военните походи и се запознава с принципите на управление на държавата. Необикновените му способности дават на младия наследник на трона възможността не само да усвои онова, на което го учат, но и да прояви самостоятелност във воденето на държавните дела. Все още юноша, Карл се превръща в пряк и равноправен помощник на Пипин Къси в управлението.
Пипин Къси почива на 24 септември 768 година. В изпълнение на волята му властта в кралството се поделя между двамата му сина – Карл и Карломан. Карломан обаче умира ненадейно през декември 771 година и едноличен владетел става Карл.
По време на управлението си Карл Велики предприема 53 военни похода, 27 от кампаниите ръководи лично. Най-продължителните войни, които води – Саксонските, се проточват цели 30 години. В резултат на тях обаче Саксония окончателно влиза в състава на империята на Карл Велики. През 788 година към империята е присъединена Бавария: Херцогът на Бавария Тасилон III се предава. Между 789 и 806 година Карл воюва със славяните по източните граници на империята; между 791-799 година – с аварите.
Със завоеванията си Карл създава Свещената Римска империя. На 25 декември 800 година (Рождество) папа Лъв III го провъзгласява за император на Свещената Римска империя и го коронова. Още приживе към името му е добавено нарицателното Велики. Става основател на династията на Каролингите.
Успешните му походи и завоевания значително увеличават територията на кралството на франките. Грижата за управлението на държавата винаги е стояла във фокуса на вниманието му. Винаги вниква до детайли в ситуацията; търси начини да подобри държавното устройства, да усилии армиите си и да гарантира сигурността по границите. Едновременно полага усилия за подобряване живота на поданиците си – както материално, така и духовно. В много от тези сфери Карл Велики успява да извърши смислени и ефикасни реформи.
Покровителства науките и учените хора. Строи много манастири и училища към тях. По негово разпореждане се заселват нови, некултивирани до момента територии. Строят се градове, дворци, манастири и църкви. С действията си оказва много силно влияние по разпространение на християнството в държавата. Покровителства духовенството и намалява данъка върху църковните имоти и служители на десятък. Въпреки че е в много добри отношения с папата, Карл запазва за себе си властта в управлението на църквата в империята – негово е правото да назначава епископи и абати, да свиква църковни събори и да отсъжда в споровете, касаещи църковните дела.
Периодът на управлението му е определян като Каролингски Ренесанс, заради разцвета в културната, духовната и научните области. Днес историците определят Карл Велики не само като създател на френските и германските монархии, но и като Pater Europae („Баща на Европа“). Неговата империя обединява по-голяма част от Западна Европа за пръв път след залеза на Римската империя. Приема се, че ранният Каролингски ренесанс е времето, по което се формира новата обща европейска идентичност.
Карл Велики почива на 28 януари 814 година в двореца, който построява в столицата си Аахен. Саркофагът му се намира в катедралата на Аахен. На трона е наследен от единственият от синовете му, който го надживява – Луи Благочестиви.