Tout d'abord, l'amorce

Qu'est-ce que 1-1. TMC

TMC, qui est "cache multi-niveaux transparent (Transparent Cache multiniveau)", il y a des �loges pour les PaaS Toute l'�quipe cache des applications dans les solutions de l'entreprise.

TMC En g�n�ral, � des solutions de mise en cache distribu�s (tels que CodisProxy + Redis, le cas �ch�ant les �loges de la recherche distribu�e syst�me de mise en cache zanKV) � base, ajoute les fonctionnalit�s suivantes:

Couche d'application Hot Spot de d�tection
La couche d'application de cache local
Le cache de la couche application des statistiques a frapp�

La couche d'application pour aider � r�soudre le probl�me de l'acc�s aux utilisations du cache chaud le processus se posent.

1-2. Pourquoi TMC

Utiliser le num�ro de fournisseur d'�lectricit� et le type d'entreprise a beaucoup de service de louange, les entreprises � l'occasion faire un peu de � pic des produits de base �, activit�s � de promotion du commerce �, conduisant � des � activit�s de marketing �, � D�tails du produit �, � pour le commerce � et les applications de liaison appara�tre hotspot Cache �La situation:

Temps d'activit�, type d'activit�, les campagnes d'information produit comme impr�visibles, entra�nant un acc�s hotspot cache de circonstances impr�vues � l'avance;
Pendant l'acc�s du cache chaud se produit, la couche d'application quelques points chauds * * pour acc�der � une grande quantit� de demande d'acc�s au cache: l'impact des syst�mes de cache distribu�, occupent une grande quantit� de bande passante au sein du r�seau, la couche d'application affecte finalement la stabilit� du syst�me;

Pour r�soudre ces probl�mes, nous devons �tre en mesure de trouver automatiquement un point chaud et les solutions de demande d'acc�s pr�-cache chaud mis en cache localement dans la couche d'application, ce qui explique pourquoi g�n�r� TMC.

1-3. La douleur pointe des solutions de mise en cache multi-niveaux

Sur la base de la description ci-dessus, nous r�sumons les points suivants solution de mise en cache multi-niveaux �La n�cessit� de r�pondre aux besoins des points de douleur:

Hot spot de d�tection: comment trouver rapidement et avec pr�cision � chaud * Touche d'acc�s *?
Coh�rence des donn�es: application pr�-cache au niveau local, comment assurer la coh�rence des donn�es et le syst�me de mise en cache distribu�e?
L'effet de la v�rification: comment rendre la vue couche d'application cache local taux de succ�s et d'autres donn�es cl�s pour v�rifier chaud l'effet de cache multi-niveaux?
Acc�s transparent: Comment r�duire l'invasion de la solution globale des syst�mes d'application, si un acc�s rapide et lisse?

TMC point focal au-dessus de la douleur, con�u et mis en uvre la solution globale. Pour soutenir la � d�tection Hot Spot � et � cache local �, l'impact sur les services de mise en cache distribu�s en aval tout en r�duisant l'acc�s aux points chauds, pour �viter d'affecter les performances et la stabilit� des applications et services.

Deux, TMC architecture globale

TMC structure globale, comme indiqu� ci-dessus, est divis� en trois couches:

couche de m�moire: kv base fournir une capacit� de stockage de donn�es, l'utilisation de diff�rents services de stockage (CODIS / zankv / a�rospike) pour diff�rents sc�narios d'affaires;
Couche Agent: fournit l'utilisation d'une entr�e de cache unifi�e et la couche d'application protocole de communication, les ours fonction de routage des donn�es distribu�es exp�diteur niveau de segmentation de travail;
Couche d'application: fournit une application client unifi�e pour utiliser le service, int�gr� dans � la d�tection de point chaud �, � cache local � et d'autres fonctions, la transparence des entreprises;

Benpian focalis� sur la couche d'application client � sonde chaude �, la fonction � cache locale �.

Trois, cache local TMC

3-1. Comment transparent

TMC est de savoir comment r�duire l'intrusion d'applications d'entreprise, de sorte que l'acc�s transparent?

Pour la soci�t� de services d'application Java, divis� en deux cat�gories sur l'utilisation du cache du client:

paquet de base, en utilisant le code de service RedisTemplate d'�criture;
Bas� youzan.framework.redis package, en utilisant le code de service d'�criture RedisClient;

L'utilisation ou l'autre des sc�narios ci-dessus, Jedis objets finaux cr��s par des demandes de serveur proxy de cache JedisPool � faire l'interaction de la couche.

TMC sur l'emballage natif de classe JedisPool et Jedis faire la transformation, l'int�gration dans JedisPool initialisation TMC � points chauds trouv�s dans � + � cache local � fonctions logiques d'initialisation du package Hermes-SDK, le client Jedis et mise en cache interaction de la couche serveur proxy lorsque le premier interagissent Hermes-SDK avec un acc�s transparent au complet � sonde chaude � + de fonction � cache local �.

Pour les applications Java, il suffit d'utiliser une version sp�cifique du paquet Jedis-pot, sans modifier le code, vous pouvez acc�der aux utiliser TMC � hot spots trouv�s dans � fonction + � cache local �, de sorte que l'intrusion minimale sur le syst�me d'application.

3-2. Architecture globale

3-2-1. Module division

TMC configuration globale du cache local est divis� en modules suivants:

Jedis-client : Application Java acc�s direct interaction du serveur de cache avec la d�finition de l'interface native �quivalent Jedis-client;
Hermes-SDK : Auto-d�veloppement � chaud + d�couverte cache locale � paquet fonctionnalit� SDK, Jedis-client en interagissant avec ses capacit�s respectives d'int�gration;
cluster de serveurs Hermes : Recevoir l'acc�s au cache de donn�es Hermes-SDK pour l'�tat de d�tection de point chaud, la touche de raccourci pousse Hermes-SDK comme le cache local;
clusters de cache : Par la couche d'agent et la couche de stockage, cache distribu� pour fournir un pour le client d'application entr�e de service unifi�;
Les composants de base : Groupe ETCD, centre de distribution Apollo pour TMC pour fournir une capacit� "push de cluster" et "configuration unifi�e";

3-2-2. Les processus de base

1) La valeur de cl� acquisition

Java appels d'application Jedis-client �Interface obtenir la valeur de cl� de cache, Jedis-client �demande Hermes-SDK �La cl� est de savoir si le courant touche de raccourci ;
pour touche de raccourci �directement � partir de Hermes-SDK �module chaud pour l'acquisition de la valeur de la valeur de touche de raccourci dans le cache local, de ne pas visiter clusters de cache �De sorte que les demandes d'acc�s � l'avant dans une couche d'application;
pour non touche de raccourci �, Hermes-SDK �rappel appelable passera Jedis-client �Native Interface de clusters de cache �Obtenez la valeur de la valeur;
pour Jedis-client �Chaque demande d'acc�s valeur cl�, Hermes-SDK �Module de communication par qui l'acc�s des �v�nements cl�s �Asynchronous rapport� � cluster de serveurs Hermes �, De sorte qu'une � sonde chaude � en fonction des donn�es communiqu�es;

2) La valeur de cl� expire

Java appels d'application Jedis-client �L'ensemble () del () expireront () peut provoquer une d�faillance lorsque la valeur de cl� correspondant � l'interface, Jedis-client �Il sera appel synchrone Hermes-SDK �La m�thode invalide () pour informer son �v�nement � valeur cl� non valide �;
pour touche de raccourci �, Hermes-SDK �Le premier module de touches valeurs mises en cache localement valeur invalide, afin d'obtenir des donn�es locales une forte coh�rence . Bien que le module de communication asynchrone sera l'�v�nement � valeur de l'�chec � par groupe ETCD �Pouss� � d'autres Java Application Clusters Hermes-SDK noeud;
autres Hermes-SDK Apr�s r�ception du nud de module de communication � valeur cl� non valide � �v�nement, appelle la valeur de la valeur cl� du module chaud dans l'�chec de cache local pour obtenir les donn�es du cluster L'accord final ;

3) points chauds trouv�s

cluster de serveurs Hermes �Continuer de recueillir Hermes-SDK rapport� l'acc�s des �v�nements cl�s Pour les donn�es d'acc�s au cache de diff�rentes applications d'entreprise analyse p�riodiquement grappe (3s une fois) et le calcul, pour d�tecter les applications d'entreprise dans un cluster touche de raccourci liste;
pour d�tecter touche de raccourci liste, cluster de serveurs Hermes �il par groupe ETCD �Pouss� aux diff�rents groupes d'applications d'entreprise Hermes-SDK �Un module de communication pour notifier touche de raccourci Liste cache local;

4) agenc� pour lire

Hermes-SDK �Au d�marrage et pendant le fonctionnement sera de Apollo Center Configuration �Lit les informations de configuration d'int�r�t pour eux (par exemple: D�marrer une configuration ferm�e, la configuration de la liste noire et blanche, adresse ETCD ...);
cluster de serveurs Hermes �Au d�marrage et pendant le fonctionnement sera de Apollo Center Configuration �La lecture des informations de configuration d'int�r�t pour eux (par exemple: une liste des applications m�tier, la configuration de seuil chaude, adresse ETCD ...);

3-2-3. Stabilit�

la stabilit� TMC du cache local dans les domaines suivants:

donn�es asynchrones: rapports de Hermes-SDK �La technologie rsyslog utilisation � � �v�nements d'acc�s principaux � de rapports asynchrones, ne bloquent pas le trafic;
Enfilez module de communication de s�paration: Hermes-SDK �Le module de communication utilise un pool de threads s�par�s + attente limit�e, assurer que les rapports d'�v�nements �coute et op�rations d'E / S et fil isol� d'affaires d'ex�cution, m�me si le sexe anormal inattendu n'affectera pas les fonctions commerciales de base;
Contr�le du cache: Hermes-SDK �module chaud limite de la taille du cache locale a �t� le contr�le, de sorte que la m�moire occup�e par plus de 64 Mo (LRU), �liminer la possibilit� de d�bordement m�moire tas JVM;

3-2-4 Conformance

TMC cache local de coh�rence dans les domaines suivants:

Hermes-SDK �module de cache Hot touche de raccourci �Les donn�es, la grande majorit� des donn�es cl�s de la non-hotspot clusters de cache �stockage;
touche de raccourci �Lorsque le changement de valeur a conduit � l'�chec, Hermes-SDK ��chec de la synchronisation de cache local pour assurer uniforme fort local ;
touche de raccourci �Lorsque le changement de valeur a conduit � l'�chec, Hermes-SDK �par groupe ETCD ��v�nements de diffusion, l'�chec asynchrone des applications d'entreprise groupent cache local � d'autres nuds, assurant Cluster accord final ;

Quatre, points chauds TMC trouv�s

4-1. Processus g�n�ral

processus de d�couverte de point chaud TMC est divis� en quatre �tapes:

collecte de donn�es : Collectionner Hermes-SDK �Rapport� �v�nements d'acc�s cl�s;
Fen�tre coulissante thermique : Pour chaque application cl�, toute l'heure d'entretien, la chaleur acc�s aux enregistrements en fonction de l'heure de la fen�tre coulissante;
convergence chaleur : Tous App cl� de < cl�, la chaleur > Trier r�sum� sous forme de chaleur;
D�tection Hot Spot : L'application, s�lectionnez TopN chaud de la chaleur de la commande Touche les r�sultats sommaires, pouss� � Hermes-SDK ;

4-2. Collecte des donn�es

Hermes-SDK �Par la rsyslog locale l'acc�s des �v�nements cl�s �Mettre dans un format de protocole kafka �, cluster de serveurs Hermes �Chaque noeud consommation kafka nouvelles, l'acc�s en temps r�el l'acc�s des �v�nements cl�s .

format de protocole d'�v�nement d'acc�s est la suivante:

appName: nud de cluster appartient aux applications d'entreprise
UniqueKey: principales applications d'entreprise � des �v�nements cl�s d'acc�s
Le temps d'apparition d'�v�nements d'acc�s principales applications d'entreprise: sendTime
poids: l'acc�s aux applications d'entreprise de valeur � des �v�nements cl�s d'acc�s

cluster de serveurs Hermes �Le noeud recueilli l'acc�s des �v�nements cl�s �Stock� dans la m�moire locale, la structure de donn�es de m�moire Carte < String, Carte < String, LongAdder > > , Cartographi�es � l'entreprise correspondante signifie Carte < �appName, Carte < �UniqueKey, de la chaleur > > .

3.4. Fen�tre coulissante Heat

4-3-1. Heure fen�tre coulissante

cluster de serveurs Hermes �Les nuds, chaque cl� de chaque application, le maintien d'un ronde du temps :

Party Time Round 10 tranche de temps , La fiche de chaque tranche de temps correspondant au nombre total d'acc�s � la cl� actuelle p�riode de 3 secondes;
Le temps d'enregistrement de 10 tranches de temps roue des moyens d'accumulation que le nombre total de la cl� actuelle pour acc�der � la dur�e de 30 secondes � partir de la fen�tre de temps en cours;

Mission de cartographie 4-3-2

cluster de serveurs Hermes �Noeuds pour chacun produit un toutes les 3 secondes App Mission de cartographie �, D�sign� dans le noeud � pool de threads cachemap � la mise en uvre. Mission de cartographie �Il se lit comme suit:

L'application actuelle, de la carte < �appName, Carte < �UniqueKey, de la chaleur > > AppName supprim� correspondante Carte Plan < �UniqueKey, de la chaleur > > ;
Carte Traversal < �UniqueKey, de la chaleur > > La cl�, qui est m�moris� pour chaque cl� dont la chaleur enlev�e ronde du temps �Correspondant � la tranche de temps;

4-4. Convergence chaleur

Apr�s avoir termin� la deuxi�me �tape � fen�tre coulissante chaleur � Mission de cartographie �Poursuivre les travaux � convergence de chaleur � sur l'App actuelle:

App travers� la cl�, chaque touche ronde du temps �La chaleur agr�g�es (� savoir, dans les 30 secondes de la chaleur totale de la fen�tre) pour donner le temps de d�tection La fen�tre coulissante chaleur totale ;
volont� < �cl�, fen�tre coulissante chaleur totale > �Way dans Redis ensemble de services tri�es de stockage, � savoir, R�sultats de la convergence chaleur ;

4-5. Hot Spot Detection

Quelques pas en avant, Toutes les 3 secondes �temps Mission de cartographie �Ex�cution, r�sultant en une heure pour chaque volont� App R�sultats de la convergence chaleur �;
cluster de serveurs Hermes �Le noeud � Hot spot de d�tection � pour chaque application, il suffit d'une r�cente cyclique R�sultats de la convergence chaleur �Retirer la chaleur TopN atteint la liste des cl�s de seuil, cette d�tection peut �tre obtenue liste des cl�s Hot ;

TMC processus global a �t� trouv� chaud comme indiqu� ci-dessous:

4-6. R�sum� des caract�ristiques

4-6-1. En temps r�el

Hermes-SDK Sur la base de rapports en temps r�el rsyslog + kafka l'acc�s des �v�nements cl�s . Mission de cartographie �3 secondes pour effectuer un cycle � fen�tre glissante de chaleur � + � convergence de chaleur �, et quand il y a l'acc�s aux sc�nes Hot �Jusqu'� 3 secondes � l'�v�nement correspondant � la d�tection touche de raccourci .

4-6-2. Pr�cision

la cl� R�sultats de la convergence chaleur Rassembl�s par le la � roue de temps sur la base d'une mise en uvre de fen�tre coulissante, � refl�ter de mani�re relativement pr�cise la r�partition actuelle et la r�cente visite a eu lieu.

4-6-3. �volutivit�

cluster de serveurs Hermes �Apatrides noeuds, les noeuds peuvent �tre bas�s sur le nombre d'�chelle partition kafka.

processus de � fen�tre coulissante Heat � + � de convergence de la chaleur � est bas� sur le nombre d'App, multifile dans une seule extension de noeud.

Cinq, TMC effet r�el

5-1. Deft une entreprise de marketing des produits de base particulier

Il y a des entreprises engag�es dans des activit�s comme une marchandise par plate-forme adroite de diffusion, ce qui en peu de temps la marchandise est produit un acc�s centralis� d'acc�s aux points chauds, les points chauds lors d'une visite aux activit�s r�elles des donn�es TMC enregistrement de performance comme suit:

5-1-1. Demande et graphique de taux d'utilisation du cache de l'application de base A

* La ligne bleue sur le graphique pour obtenir un num�ro d'op�ration cache hit TMC des appels � la m�thode cache local Application Clusters get () pour acc�der au num�ro de cache * ligne verte sur la carte

* L'image montre un graphique du rapport local dans le cache

On peut voir dans les demandes de cache d'�v�nements et la quantit� de volume frapp� cache local a augment� de mani�re significative, un taux local dans le cache de pr�s de 80% (soit 80% du cache cluster d'applications demandes de requ�te sont TMC mises en cache intercept�s au niveau local).

5-1-2. Effet d'acc�l�ration du cache chaud pour l'acc�s aux applications

* La photo montre l'application d'interface courbe QPS

* La photo montre l'application d'interface RT Curve

Comme on peut le voir la quantit� interface d'application demand� lors de l'�v�nement ont consid�rablement augment� en raison de l'effet de l'application RT Interface TMC mises en cache localement, mais a diminu�.

effet TMC pendant une partie de l'application 5-2. Afficher onze bis

5-2-1. Domaine des marchandises effet de l'application de base

5-2-2. Domaine d'activit� effet de l'application de base

Six, les perspectives de la fonction TMC

En Zambie, TMC est actuellement le centre des marchandises, la logistique, les centres d'inventaire, des campagnes de marketing, centr�es sur l'utilisateur, la passerelle et messagerie, et d'autres modules d'applications de base, les applications suivantes sont �galement des applications d'acc�s.

TMC, les comp�tences de base � d�tection de point chaud � + � cache locale �, mais offre �galement des options de configuration flexibles pour les services d'application, les services d'application peuvent �tre associ�s � la situation commerciale r�elle dans le � nombre cl� de sondes de points chauds � � seuil de points chauds �, � points chauds liste noire � dimensions librement configurables afin d'obtenir de meilleurs r�sultats.

Route de la soie