Me late que el que debería saber bien si hay o no contrato eres tú, no el inquilino.

Así como eres y como es tu arrendatario, lo mejor es que lo saques a la fuerza.

Eso sería ilegal,  así que ahi te van recomendaciones para hacerlo LEGALMENTE:

- contrata  los servicios de un licenciado en Derecho con cédula profesional, a efecto de que te asesore en este asunto y en tus futuros contratos para arrendar,  no puedes andar arrendando así nomas, pues ya viste qué es lo que pasa cuando uno no sabe lo que está haciendo.

Tu abogado deberá instaurar un juicio civil contra este inquilino moroso, toda vez que ya le estas pidiendo el local.  Esto no te pasaría si tuvieras un contrato bien hecho de arrendamiento POR TIEMPO DETERMINADO.

Suerte.