Le testimonianze archeologiche più antiche attestate nel territorio di Osimo provengono dalla bassa valle del fiume Musone e del suo affluente di destra Fiumicello: si tratta di numerosi oggetti di selce scheggiati, ritrovati unitamente con ossa di animali e corna di cervo, che si datano al Paleolitico superiore (40.000-12.000 anni fa). Nel IX secolo a.C. sul colle di Osimo e sull'altura di Monte S. Pietro si stanziarono i Piceni, che diedero vita a due insediamenti distinti con relative necropoli.
Con la battaglia di Sentinum (odierna Sassoferrato) del 295 a.C., i Romani iniziarono la conquista del Piceno, coinvolgendo anche Osimo (Auximum): nel 174 a.C. si ha testimonianza, attraverso un passo dello storico Livio, che i censori Q. Fulvius Flaccus e A. Postumius Albinus appaltarono le mura urbiche e decisero la costruzione di tabernae (botteghe) attorno al foro. Considerata l'inespugnabilità dell'abitato e la sua posizione centrale rispetto l'area picena, i Romani decisero inoltre, nel 157 a.C., di dedurvi una colonia, iscrivendone i cittadini nella tribù Velina.
In età altomedievale, la città continuò a rivestire grande importanza all'interno del Piceno. il suo ruolo strategico è messo in evidenzia dal fatto che vi si svolsero alcuni momenti importanti della guerra detta "greco-gotica" (535-553), ovvero quella parte della complessa campagna militare attraverso cui l'imperatore romano d'Oriente Giustiniano volle riaffermare la presenza imperiale nel Mediterraneo occidentale. Nel 727-728 la città fu conquistata dai Longobardi guidati dal re Liutprando, che ne fece, insieme ad Ancona, due ducati direttamente alle sue dipendenze, e poli nevralgici per il controllo delle mire espansionistiche del Duca di Spoleto.
Nel 774 il re longobardo Desiderio minaccia papa Adriano I, che chiede aiuto al re dei Franchi Carlo Magno, il quale sconfigge il nemico ed annette i territori longobardi al regno franco: inoltre, tenendo fede alla promessa del padre Pipino, dona l'Esarcato e la Pentapoli (al cui interno rientra Osimo) al papa, territori che andranno poi a formare il nucleo del nascente Stato della Chiesa.
Agli inizi del XII secolo la città fu una della prime a diventare libero comune, acquisendo grande importanza all'interno della Marca: durante il lungo periodo di lotta tra Guelfi e Ghibellini, Osimo si trovò spesso a parteggiare per i secondi, gesto che gli costò caro visto che perse la cattedra vescovile per ben due volte: la prima intorno alla metà del Duecento e la seconda nella prima metà del XIV secolo, a seguito della rivolta dei fratelli Lippaccio e Andrea Gozzolini, in occasione della quale fu anche privata del titolo di città. Questo indebolì molto Osimo, che andò incontro ad un lungo periodo di instabilità, durante il quale fu sottoposta al dominio di signorie straniere: i Malatesta di Rimini (1399-1430), inviati direttamente dal papa, e poi il condottiero Francesco Sforza (1433-1443), mandato da Filippo Maria Visconti, duca di Milano, per indebolire il potere papale. Negli anni 1486 e 1487 la città fu presa dal capitano di ventura Boccolino di Guzzone, che la dovette poi cedere alle truppe alleate del papa.
Dal 1500 circa, la città tornò definitivamente sotto lo Stato Pontificio, godendo di un lungo periodo di pace e prosperità che ha lasciato molte tracce, come i meravigliosi palazzi che abbelliscono il centro storico. Fu anche fervente centro culturale, grazie all'istituzione del Collegio Campana, che richiamò illustri insegnanti ed allievi, divenuti poi famosi, come i papi Leone XII e Pio VIII. Durante l'occupazione napoleonica, Osimo fu sottomessa dai francesi ed entrò a far parte del Dipartimento del Musone: venne poi restaurato il Governo Pontificio, che ebbe vita breve perché ben presto molti abitanti, guidati dal conte Francesco Fiorenzi, imbracciarono le armi e combatterono per l'indipendenza dell'Italia nella famosa battaglia di Castelfidardo (18 settembre 1860). Dopo i bombardamenti di Ancona dell'ottobre 1943, Osimo assunse il ruolo di capoluogo di regione in quanto tutti gli uffici statali vennero trasferiti in città fino alla sua capitolazione. Osimo venne liberata dai partigiani della V div. Garibaldi Marche il 6 luglio 1944 ma la dura Battaglia del Musone durò fino al 18 luglio successivo. Secondo il generale polacco Anders la battaglia che dipanò nelle campagne tra Osimo e Filottrano fu la più cruenta per l'esercito polacco dopo quella di Montecassino. L'abbattimento della Linea difensiva tedesca "Edith" lungo il fiume Musone permise l'occupazione del porto di Ancona, cosa questa che accelerò l'assalto alla Linea Gotica trovandola impreparata.