Das für das komplette x86 Instruktionsset findest du eh keine Lernmaterialien, dazu ist es zu umfangreich. Die Referenzen gibts bei Intel, aber das ist nur zum Nachschlagen von Details: https://www-ssl.intel.com/content/www/us…er-manuals.html
In "Computer Systems: A Programmer's Perspective" hat in Kapitel 3 eine gute Einführung in x86 Assembler. Wobei man Assembler sowieso nicht über Syntax und die Befehle lernt, sondern um über das Maschinenmodell, und davon da sind die anderen Kapitel genauso wertvoll, Kapitel 4 erklärt dann z.B. eine mögliche Implementierung.
Selsbt wenn du das Buch ignorierst, als Hands-On-Übung, gerade was Security und Reverse-Engierring angeht, empfehle ich das Bomb Lab dann durch zuspielen wenn du die Basics hast: http://csapp.cs.cmu.edu/public/labs.html