Cinquenta anos se passaram desde que o herói do Shin Megami Tensei seguiu o caminho neutro, derrotou os líderes da Lei e do Caos e fundou um estado onde os seguidores de ambas as ideologias poderiam viver livremente. Mas seu reinado de liberdade não dura muito. A fé messiânica ganha poder, expandindo a Catedral para um novo ambiente fechado chamado Tokyo Millennium. Os Gaianos se levantam, mas sua rebelião é reprimida pela classe de guerreiros de elite dos Messianos, os Cavaleiros do Templo. As pessoas se reúnem na cidade encapsulada, submetendo-se à rígida hierarquia imposta pelo Centro Messiano, onde apenas os privilegiados que vivem no distrito do Centro estão a salvo de ataques demoníacos. Alguns anos depois, um lutador aposentado da arena Okamoto resgata um homem chamado Hawk, que estava lutando por sua vida contra um demônio. Ele o treina para lutar na arena do distrito de Valhalla, esperando que ele ganhe o torneio, o que concederá a ambos a cidadania no distrito do Centro. Quando Hawk é bem-sucedido, ele é levado perante um bispo messiânico e descobre a verdade chocante sobre suas próprias origens e o papel que ele deve desempenhar no grande esquema dos eventos. Uma nova batalha por um futuro melhor começa. Shin Megami Tensei II mantém todos os recursos de jogabilidade do jogo anterior. O jogador é capaz de invocar demônios, fundi-los para criar outros mais poderosos, fazê-los participar de batalhas, conversar com inimigos aleatórios e receber informações deles, etc. O combate é baseado em turnos, e o jogador explora as masmorras complexas e labirínticas a partir de uma perspectiva em primeira pessoa. Como no primeiro jogo, os alinhamentos Lei, Caos e Neutro desempenham um papel importante: durante o curso do jogo, o jogador terá que fazer escolhas que influenciem o alinhamento do protagonista, direcionando o enredo para diferentes direções. Os novos recursos incluem um sistema de "sucessão mágica", que permite que os demônios carreguem seus feitiços mágicos originais quando são fundidos em novos, alguns feitiços e habilidades adicionais e a possibilidade de jogar no cassino e ganhar itens exclusivos.

199X: 'O Grande Cataclismo de Tóquio' - Thorman aperta o botão, lançando ICBMs com ogivas nucleares em Tóquio. Ocorre o holocausto nuclear global. 203X: 'A Grande Inundação de Tóquio' - Após a reconstrução de Tóquio, um movimento de placas tectônicas de proporções maciças faz com que o oceano entre em Tóquio e dizime a área ao seu redor. Mesmo depois que as águas recuaram, os subúrbios de Tóquio permaneceram submersos. 'Estabelecimento de uma Sociedade Cooperativa Comunal' - Após a destruição da Basílica, é estabelecida uma sociedade e um governo livres que acolhem calorosamente qualquer pessoa, seja messiânica ou gaélica. 204X: 'Ascensão da Igreja Messiânica' - Por meio de manobras políticas, a Igreja Messiânica assume o governo e o converte em uma teocracia. 'Revolta Gaean' - Irritados e opostos à ascensão messiânica ao poder, vários grupos de gaeanos iniciam inúmeros tumultos, mas todos são rapidamente sufocados pelos Cavaleiros do Templo. 205X: 'Conclusão do Centro' - Usando uma enorme quantidade de financiamento, uma enorme estrutura chamada "Centro" é construída no antigo local da Basílica. Também é anunciado o plano de criação de um governo municipal chamado "Millennium". 'Demonoides desenvolvidos' - A fim de garantir uma fonte de mão de obra, formas de vida artificiais chamadas "Demonoides" são desenvolvidas. 206X: 'Millenium quase concluído' - Instalações projetadas para acomodar pessoas como Valhalla e a Fábrica (uma área de produção/industrial) são projetadas e quase completas. Instalações de entretenimento como cassinos também são construídas. 'Contaminação Ambiental' - Através do aquecimento global, contaminação radioativa e deterioração da camada de ozônio, a maior parte do mundo fora do Milênio de Tóquio torna-se inabitável. Um grande número de pessoas de todo o mundo migra para o Millennium, pois seu ambiente é totalmente autônomo. 'Cavaleiros do Templo se tornam Forças Policiais Especiais' - Depois de pôr fim a várias manifestações e revoltas gaeanas, os Cavaleiros do Templo são avaliados pelo Centro e são promovidos ao status de Elite. Eles são declarados a força policial oficial da cidade. Seu aumento de poder reforça ainda mais o controle que o Centro tem sobre o resto da cidade. 20XX: 'Present day, present time' - A megalópole que já foi chamada de Tóquio... muitos são os nomes e as formas que tomou ao longo de sua longa história... mas sobreviveu. E mesmo hoje, ela vive... como "Tokyo Millennium"; a cidade da fé messiânica. A fé que reuniu sob suas asas os corações e mentes de milhões que clamam pelo advento do Messias. No início, estava sendo construído para transformar o sonho do Reino de Mil Anos em realidade, mas nem Deus nem o Messias apareceram dentro de suas paredes. E então, o tempo passou. E muito em breve, alguns dos seus cidadãos tornaram-se muito mais iguais do que outros... Ao leme do Millennium, está o corpo governante conhecido como Centro. Sob a autoridade direta do Centro estão os Cavaleiros do Templo, um grupo militar de elite que serve à função de uma força policial. A elite do Milênio são os Cidadãos de Primeiro Grau, que recebem o direito de viver no Centro livremente. Há aqueles que têm permissão para possuir um Terminal Armado. Esses são considerados os Cidadãos de Segundo Grau. E por último vêm aqueles que são meramente reconhecidos como residentes do Milênio de Tóquio. Esses são considerados os Cidadãos de Classificação Comum. Um dos distritos particularmente prósperos do Millenium é a Área de Valhalla, famosa pelo esporte cruel da luta de arena, praticado lá até hoje. Os homens lutam entre si, arriscando suas vidas para emocionar as multidões sedentas de sangue. Recentemente, um novo lutador chamado "Hawk" entrou em cena como um cometa: o público fica boquiaberto com suas proezas, a multidão enlouquece com sua série ininterrupta de vitórias, mas ninguém sabe quem ele é ou de onde veio... Nem mesmo o próprio Hawk.