Si la aplicación no posee el formato APK no será posible instalar, Android utiliza únicamente este formato en sus aplicaciones. Intenta siempre descargar todas tus aplicaciones desde Google Play ya que es el sitio oficial para descarga de aplicaciones seguras y verificadas, si la app ha sido obtenida de un sitio distinto debes configurar el Smartphone para confiar fuentes externas, para esto debes ir a Ajustes>Ajustes avanzados>Seguridad y ahí habilitar Fuentes desconocidas y luego volver a intentar la instalación. Verificar que tengas suficiente almacenamiento para instalar la aplicación puedes desinstalar otras apps que no está utilizando borrar algunas fotos o archivos que ya no te sirvan.