Après pour remplacer esayPHP, je pencherai pour PHPmyadmin ( même si il est plutôt complexe d'un prime abord, la prise en main est assez facile une fois la lecture de quelques tutoriels et un peut de pratique dessus ).
Heureusement que je suis là pour rectifier les petites bêtises de clochette
EasyPHP, pour rappel, est également à un équivalent de WAMP sous Windows. Il comprend un serveur Apache, le module PHP, MySQL et PHPMyAdmin.
Pour ton installation de LAMP, je préfère laisser ma place aux professionnels de Linux. Je m'avoue faible dans ce domaine

@ La Fouine : Oui ... ? coquille je parlé de LAMP et de phpmyadmin.
@ notor99 : pour ce qui est des vulnérabilités de XAMPP, j'aimerai assez quelques liens qui en parle ( récent bien entendu

)
@ XOXO Gossip Girl : ton serveur est installé ? mais pour le lancer c'est un script init qu'il faut lancer et pour plus de précision :
mysql start/running, process 3924
T'indique que le serveur de base de données mysql est relancer avec comme PID 3924
apache2 est déjà la plus récente version disponible.
Et là apache2 est déjà installé

donc pas de souci, pour plus de certitude sur le fait qu'il soit lancer ou non tu peut fouiller avec un petit "ps aux" en console qui t'indiquera tout les processus lancer ou un ps -aux | grep apache2 pour aller directement au résultat ( si il y a rien c'est qu'il ne tourne pas

).
Maintenant pour lancer apache voici la ligne de commande qu'il te faut :
/etc/init.d/apache2 start
Bien entendu start, restart et stop sont possible
Après un peut de lecture du manuel ou d'un ou deux tutoriel devrait te donner les bonnes bases afin de pouvoir faire tourner et administrer ton serveur correctement
J'ai essayé de rester assez concis mais rien ne t'empêche de faire quelque recherche supplémentaire sur les termes utiliser dans mon explication ou de demander un complément d'information ( même si en ce moment je passe en coup de vent d'autres personnes pourront te rencarder

).
Sinon pour répondre à l'avance à notor99 la dernière vulnérabilitée remonter pour xampp à été corrigé dans la version release 1.7.3a donc pour l'instant pas plus de vulnérabilité que ça, enfin comparé à l'ensemble des logiciels utilisé, c.a.d : apache, mysql, php, etc ... ce qui n'empêche que ces mêmes applications possède eux même déjà des vulnérabilités donc pas d'inquiétude à choisir XAMPP plus que LAMP autre le côté didactique de monter de A à Z sont serveur et d'en faire la configuration aux petits oignons.
"Grosso merdo" je dirait qu'il y a rien de comparable à par exemple WEBMIN qui lui est tellement riche en fonctionnalité et assez peut maintenus et en possède un sacré paquets ( reste à savoir lesquels et comment les refermer soit même, ce qui est fastidieux; d'ailleurs ça m'y fait penser faut que je le dégage d'une machine

).
Debianneux cornu; Barbu, bouffeur de c... !!
Laptop--Debian unstable-3.1.0-1-amd64--awesome--Debian-Kfree/bsd unstable--10.0.0.amd64--awesome
Serveur--Debian-xen-amd64-2.6.32-5-maintenance
Serveur--Openbsd-maintenance