MLflow режимдері

MLflow-пен жұмыс істеу үшін сервисте жұмыс істеуге арналған алдын ала орнатылған баптаулары бар клиенттік сервер құрылады.

MLflow инстансы екі режимде жұмыс істей алады:

• JupyterHub-пен бірге;
• бөлек, Standalone режимінде.

Бұл режимде MLflow клиенттік серверін байланыс үшін жасау кезінде бұрыннан жасалған JupyterHub сервері таңдалады. Бір JupyterHub инстансымен тек бір MLflow инстансын байланыстыруға болады.

Егер MLflow JupyterHub инстансымен байланыста жұмыс істесе, онда пайдаланушыларды жасау және аутентификация JupyterHub арқылы орындалады.

MLflow Standalone — JupyterHub-қа байланыстырылмаған, оған MLflow орнатылған және базалық аутентификациясы бар жеке инстанс.

Standalone режимінің ерекшеліктері:

• MLflow пен JupyterHub арасында байланыс жоқ.
• Пайдаланушылардың аутентификациясы JupyterHub-тан тәуелсіз, кірістірілген MLflow Authentication плагині негізінде орындалады.
• Аутентификацияға негізделген рөлдік модель әрбір пайдаланушы үшін әрбір нақты эксперимент пен модельге жеке қолжетімділікті баптауға мүмкіндік береді.

Бұл режимді сервиске ML Platform клиенттік кітапханасы арқылы қол жеткізу үшін пайдалану ыңғайлы.

Standalone режимінде инстанс әкімшісі инстансты жасау кезінде қосылады, басқа пайдаланушыларға қол жеткізу үшін токендер пайдаланылады.

Клиенттік кітапхана орналастыру серверін жасау үшін, сондай-ақ модельдің өзін орналастыру үшін MLflow орта айнымалыларын пайдаланады. Орта айнымалыларында аутентификацияға арналған mlflow uri, mlflow username, mlflow password бар.

Модельді орналастыру процесі:

1. Клиенттік кітапхана http basic auth үшін тақырыпты қалыптастырады және сұрауға қосады. Тақырып үшін пайдаланушы аты мен құпиясөз MLflow-та аутентификация үшін қолданылатын орта айнымалыларынан алынады.
2. Орналастыру сервері MLflow-қа сұрау жібереді және орналастыру қажет модельді алады.
3. Модель docker-контейнерде іске қосылады және модельге сыртқы желіден қолжетімділікті ашу үшін Traefik проксиі бапталады.