Né à Montréal, Québec, John Little étudie pendant deux ans au Musée des beaux-arts de Montréal, sous Arthur Lismer et Goodrich Roberts. Il quitte ensuite pour New York, où il étudie à l’Art Students’ League, sous Will Barnet et Frank J. Reilley. C’est ici qu’en 1949 il travaille comme assistant à Ray Bailey, concepteur de la bande dessinée "Bruce Gentry", maintenant disparue.
De retour à Montréal, il devient dessinateur dans la firme architecturale de son père (Luke & Little) en 1951. Il se marrie en 1953, et se tourne de façon définitive vers la peinture. Ses scènes de rue lui méritent des éloges de toutes parts. Ses tableaux, représentant les rues, les maisons et la nature environnante de Québec et de Montréal, ont été exposés à la galerie Watson. Pendant une exposition solo à cette galerie en 1957, un article paru dans le quotidien Montreal Gazette remarque, « Sa vision est claire et l’interprétation de ses sujets est solide et littérale. Ses bâtiments sont basés dans la solidité, portent les traces de leur âge et sont rendus avec une attention louable portée au dessin. Cette dernière qualité ne lui présente apparemment aucune difficulté. Ses figures sont animées, on sent le mouvement des les foules, et la congestion routière dans les petites rues est merveilleusement transmise… »
Little devient membre de l’Académie royale des arts du Canada en 1961. Aujourd’hui ses œuvres se trouvent à la galerie Continentale à Montréal, et il est un artiste envers lequel on exprime le plus grand respect. En 1964 paraît un article signé Dorothy Pfeiffer qui se lit, « Ceux qui déplorent la démolition impitoyable par centaines des grandes demeures d’antan et d’autres bâtiments, la disparition au nom du progrès de divers petits parcs et recoins et la destruction inhumaine de jolies corniches et de piliers de pierre empreints de dignité, retrouveront un plaisir nostalgique dans l’exposition de John Little, car il a consacré sa peinture à la préservation de telles choses pour la postérité. Toutefois sa technique fougueuse et détendue est telle que son travail ne peut d’aucune façon être étiqueté de simplement documentaire. Il peint des rues urbaines, recouvertes d’une épaisse couche de neige fondue, où son mélange de vert olive « pas tout à fait mûr » recouvre le pavé d’une mixture qui rappelle la pierre calcaire du Québec. Il peuple ses rues et sites sylvains retirés d’antan, de groupes d’adultes et d’enfants exubérants d’aujourd’hui. Ses œuvres contiennent toutefois trois qualités importantes : l’assurance, l’individualité et la vérité artistique. »
John Little a conçu des pages couvertures pour Maclean’s Magazine, dans lesquelles son humour se mêle à ses habiletés artistiques, lui permettant de représenter les canadiens tant au travail que dans leurs temps libres. Ses œuvres se trouvent dans les collections du Musée des beaux-arts du Canada, la Beaverbrook Art Gallery, l’Université Concordia (Sir George Williams University Collection of Art) , ainsi que plusieurs collections privées.
