Nella produzione pianistica Haydn non è ritenuto un innovatore alla stessa stregua di Mozart e di Clementi, anche se per taluni attegiamenti espressivi sembra precorrere più degli altri il giovane Beethoven, che fu uno studioso attento e un ammiratore sincero del musicista austriaco. Egli rivelò la sua genialità soprattutto nelle composizioni orchestrali, mentre nei pezzi pianistici, a cominciare dalle cinquantadue sonate per pianoforte, si attenne in sostanza al modello instaurato dai figli di Bach, e principalmente da Philipp Emanuel, rispettando certe formule melodiche e ritmiche ben precise e catalogate. Nella sonata, infatti, Haydn si limitò a percorrere una via già aperta: quella della forma bipartita, circoscritta essenzialmente al primo tempo nel quale si verifica la cristallizzazione del secondo tema. La regola poi chiedeva un andante in movimento molto lento e un rondò conclusivo, spigliato e spiritoso. Il brano sonatistico specialmente coltivato e curato da Haydn, che se ne dimostrò creatore fertile e felice, fu il minuetto, ereditato dalla gloriosa tradizione della suite e inserito saldamente nella sonata. Non per nulla Wagner, di fronte a questa impostazione della struttura sonatistica del suo predecessore, diede il seguente giudizio piuttosto perentorio e limitativo: «Nella musica di Haydn ci sembra di vedere il demone della musica incatenato giocare innanzi a noi con l'infantilità di chi è nato vecchio».
Non c'è dubbio che la maggior parte delle sonate e dei pezzi vari per pianoforte di Haydn conservano un tipo di linguaggio piacevole e galante, appena acceso qua e là da qualche idea derivata dallo spirito della musica per orchestra. Ma le sonate che datano dal 1790 in poi acquistano rilievo e toccano varietà espressive ed elaborazioni tematiche non prima conosciute, forse per il contatto con l'arte mozartiana. Comunque interessanti presenze di brillante virtuosismo si affacciano in diversi brani pianistici, fra cui le Variazioni in fa minore composte a Vienna nel 1793, cioè nel periodo che il musicista trascorse nella sua terra, fra il primo e il secondo soggiorno londinese. Il lavoro, definito dall'autore «un piccolo divertimento», è formato da un andante tripartito, seguito da due variazioni e da una coda conclusiva. L'andante è caratterizzato da due temi: il primo in fa minore, pensoso e dolce nello stesso tempo, con la sua cadenza di marcia; il secondo in fa maggiore ricco di ornamenti di gusto rococò. Ambedue i temi sono variati due volte, ubbidendo ad un elegante gioco di alternanza fra minore e maggiore. Il finale offre una sintesi degli elementi melodici precedenti, con una venatura drammatica e un vigore di stampo prebeethoveniano, non disgiunti da affinità stilistiche con le contemporanee sinfonie di Londra, in cui il maestro di Rohrau mostra la sua originalità inventiva. Il brano, dedicato a Barbara Ployer, la stessa alla quale Mozart aveva reso omaggio con i concerti per pianoforte K. 449 e K. 454, si conclude in pianissimo e non con una sortita virtuosistica, così come voleva la tradizione in casi del genere.