Atkins, no drafteado, estudió en la Universidad de South Florida. Posteriormente jugó en la Cibona Zagreb, de la liga croata, desde 1997 hasta 1999. Antes, lo hizo en Lacrosse Bobcats de la CBA.
Su carrera en la NBA comenzó en 1999, siendo firmado por Orlando Magic, donde solo jugó una temporada y promedió 9.5 puntos por noche y 3.7 asistencias. Además, fue incluido en el segundo mejor quinteto de rookies de la temporada.Tras dejar los Magic, disputó tres temporadas y media con Detroit Pistons, realizando buenas actuaciones saliendo desde el banquillo. Fue traspasado a mitad de la campaña 2003-04 a Boston Celtics. Posteriormente jugó en Los Angeles Lakers, Washington Wizards y Memphis Grizzlies, antes de recalar en los Nuggets, su equipo actual.Actualmente juega en Oklahoma City Thunder.
El 17 de julio de 2009, fue traspasado a Minnesota Timberwolves junto con Damien Wilkins a cambio de Etan Thomas y dos futuras rondas del draft.
