Très vite, il prend l'ascendant dans son équipe car l'effectif est faible à l'intérieur. Mais Johnson s'impose aussi dans la grande ligue … et ses 19,2 points, 11 rebonds et 3,6 passes décisives par match, lui permettent de conquérir le titre de Rookie de l'année.
Sa seconde saison est tout aussi bonne, et il récolte une sélection au All-Star Game dans le cinq majeur, et sort des matchs d'anthologie avec pénétrations suicides, dunks, rebonds offensifs à la barbe des pivots lui rendant 20cm et en plus réussit deux triple-doubles consécutifs en mars 1993. « LJ » est à ce moment considéré avec Shaquille O'Neal comme le futur de la NBA.
Il est une combinaison rare de puissance, de rapidité, de créativité, de dureté, de verticalité et d'adresse, ajoutés à une volonté, un sang-froid et un instinct de showman rare. En octobre 1993, il signe ce qui est alors l'accord le plus important jamais signé en NBA : un contrat record à l'époque de 12 ans et 84 millions de dollars avec les Hornets.
Il est un pilier de la côte Est, et un des joueurs préférés des fans et des spécialistes. Il termine second du slam dunk contest 1992. LJ est pour beaucoup de spécialistes le Charles Barkley du xxie siècle.
Néanmoins, durant l'été 1993, lors d'un match improvisé, LJ se blesse au dos alors qu'il tentait un dunk spectaculaire et le colosse des quartiers sud de Dallas, ancien boxeur amateur, se retrouve sur le flanc.
Il doit modifier son jeu basé sur son explosivité et y parvient honorablement, puisqu'en 1995 il est sélectionné au All-Star Game, saison durant laquelle il joue la quasi-totalité des matches.
Cette blessure laisse beaucoup de regrets, le Texan aurait pu être un joueur de légende, en témoigne ses records en carrière : 44 points, 23 rebonds et 14 passes.
Ce joueur, associé au pivot Alonzo Mourning, drafté par les Hornets durant la saison 92-93, ainsi que du lilliputien Muggsy Bogues (1m59) entre autres, fait de la franchise de Caroline une des plus populaires du début des années 1990 et une équipe habituée des playoffs.
Malheureusement, des tensions entre les deux stars, Mourning et Johnson, poussent la direction à transférer Mourning dans une autre équipe, le Miami Heat. Johnson, malgré une saison 1995-96 de bonne facture et une sélection all-star, est envoyé aux New York Knicks contre Anthony Mason.
Johnson, dans l'équipe du mythique Patrick Ewing, n'est plus capable de planter 20 points et 10 rebonds par match comme auparavant, mais il est devenu un défenseur de bonne facture, un leader vocal, et enfin un tireur de trois points intéressant.
Personne n'a oublié son rôle lors de la finale de conférence Est 1999, contre les Indiana Pacers. Lors du quatrième match, il marque à 11,9 secondes de la fin, le panier que les commentateurs de NBC nommèrent « the phantom four-point play », un panier à quatre points contesté.
Les Knicks sont menés 88-91 à quelques secondes de la fin, Larry Johnson dribble, Antonio Davis l'intérieur des Pacers est sur son dos. « LJ » fait une feinte de tir, Davis mord dans la feinte, saute et retombe sur Johnson, l'arbitre siffle la faute, mais Johnson au même moment lache la balle, et la balle atterrit dans les filets... panier à trois points, le score est de 91-91, mais Johnson doit rentrer le lancer-franc pour que son équipe l'emporte, chose faite peu après. (voir la vidéo de cet exploit ici).
Quelques victoires plus tard, Larry Johnson et les Knicks jouent les finales NBA face aux San Antonio Spurs de Tim Duncan et David Robinson, mais avec un Patrick Ewing blessé et un LJ diminué par une blessure, ils s'inclinent 4 victoires à 1.
À l'orée de la saison 2001-2002, Johnson annonce sa retraite sportive prématurée, usé et lassé par de trop nombreux problèmes et blessures au dos.
Sa meilleure saison est 1992-93 : 22,1 points à 52,6 % de réussite, 10,5 rebonds et 4,3 passes décisives.
En 1994, il participe aux championnat du monde de basket-ball à Toronto avec la « Dream Team 2 » où l'équipe sera championne du monde.
