SAE 2.0 упрощает разработку контейнерных приложений

12.23 Станция Юаньчуанхуэй · Шанхай, поговорим об инфраструктуре LLM

Автор: Шао Дэн

Эволюция моделей хостинга облачных контейнерных приложений

Концепция облачных технологий находилась в процессе непрерывной эволюции и инноваций с тех пор, как была предложена, расширена и сегодня стала чрезвычайно популярной. Форма хостинга приложений в собственной облачной системе продолжает развиваться вместе с архитектурой корпоративных приложений. Большинство первых приложений были централизованными и монолитными. С бурным развитием Интернета распределенная архитектура постепенно заменяет централизованную архитектуру, а облачный хостинг приложений также претерпел четыре этапа эволюции.

Фаза первая: контейнеризация

Появление и большая популярность Docker благодаря упаковке в виде контейнера, стандартизации разработки, эксплуатации и обслуживания сделали реальностью крупномасштабные межъязыковые распределенные приложения.

Этап 2. Полностью освойте Kubernetes

С тех пор микросервисная архитектура стала более популярной в более широком масштабе. При этом инфраструктура, которую предприятия должны эксплуатировать и обслуживать, становится все более сложной, а количество контейнеров, которыми необходимо управлять, увеличивается в геометрической прогрессии. С одной стороны, Kubernetes скрывает различия в инфраструктуре уровня IaaS и помогает приложениям согласованно работать в различных средах, включая центры обработки данных, облака и периферийные вычисления, благодаря своей превосходной переносимости; с другой стороны, благодаря своей превосходной открытости и переносимости, Kubernetes с его масштабируемостью и активным сообществом разработчиков, он выделяется в борьбе за крупномасштабную оркестровку контейнеров и стал фактическим стандартом для распределенного планирования ресурсов, а также автоматизированной эксплуатации и обслуживания.

Этап 3. Бессерверные Kubernetes

Хотя Kubernetes принес много преимуществ, большинству предприятий по-прежнему сложно внедрить Kubernetes в производственной среде и продолжать обеспечивать стабильность, безопасность и масштабируемый рост системы. В этом контексте Nodeless Kubernetes оказывается на виду у всех: при сохранении всех возможностей Kubernetes сложные работы по эксплуатации, обслуживанию и управлению мощностями переносятся на базу облачной инфраструктуры.

Этап 4. Бессерверный хостинг контейнерных приложений.

Хотя бессерверный Kubernetes значительно облегчил бремя эксплуатации и обслуживания Kubernetes для предприятий, сложность и крутая кривая обучения самому Kubernetes по-прежнему устрашают. Возможность максимально возможной нулевой трансформации стала еще одной проблемой, которую необходимо срочно решить.

Рождение бессерверного механизма приложений SAE

На этом фоне родился бессерверный движок приложений SAE, представляющий собой модификацию с нулевым кодом, чрезвычайно простую в использовании, адаптивную и гибкую платформу полного хостинга приложений. SAE позволяет вам использовать IaaS и K8 без необходимости эксплуатации и обслуживания, а также развертывать онлайн-приложения на любом языке (например, веб-сервисы/рабочие задачи) из исходного кода/пакета кода/образа Docker в SAE за считанные секунды, а также автоматически масштабировать экземпляры и выставлять счета. в зависимости от использования. вспомогательные возможности, такие как ведение журнала, мониторинг и балансировка нагрузки, доступны «из коробки».

Появление SAE решает проблему, заключающуюся в том, что многие предприятия хотят использовать K8, но испытывают трудности с началом работы. и адаптивная эластичность, что также дает предприятиям мощный стимул для сокращения затрат и повышения эффективности.

Комплексное обновление бессерверного ядра приложений SAE2.0

В этом году механизм бессерверных приложений SAE вступил в эру 2.0 и прошел комплексное обновление. Во-первых, это эластичность:

Играйте быстрее

Благодаря обеспечению полной совместимости с привычками разработки предприятия эластичная эффективность SAE2.0 была значительно улучшена со второго уровня до сотен миллисекунд и начинает поддерживать возможность сокращения до 0. Сокращение емкости до 0 означает, что при отсутствии бизнес-трафика плата не взимается, что может сделать использование ресурсов бесконечно близким к нагрузке запрошенных ресурсов.

Больше экономии после бомбардировки

Проведя большое исследование пользователей, мы обнаружили, что для многих корпоративных приложений нет необходимости поддерживать большой объем ресурсов, когда нет запросов или когда обработка запроса завершена. Затем мы можем освободить его ЦП или оставить только очень низкие ресурсы ЦП после обработки запроса и поддерживать состояние памяти для достижения цели поддержания работоспособности ресурсов и экземпляров .

Наиболее важной целью учета простоя является использование освобождения ЦП для экономии затрат на ЦП; а за счет сохранения памяти можно добиться восстановления на уровне миллисекунд при запуске следующего экземпляра, максимально экономя ресурсы, а также гарантированно низкая задержка.

Играйте более стабильно

Благодаря оптимизации всего канала на стороне платформы задержка сокращается на 45 %, а колебания производительности во время выполнения сокращаются до 7 %. Хотя эластичность тоньше и эластичность более стабильна, стабильность также оптимизирована.

SAE2.0 имеет встроенный шлюз трафика , и соответствующий одноэкземплярный параллелизм можно настроить в соответствии с каждым экземпляром, что аналогично количеству параллелизма, о котором мы обычно говорим. Когда параллелизм увеличивается, соответствующий экземпляр может быть расширен в зависимости от фактического количества запросов.

Когда у меня нет запросов, процессор не будет оплачиваться, что является упомянутым выше биллингом за простой. При поступлении запроса сначала будет выделен один экземпляр на основе фактического количества параллельных операций. Когда этот экземпляр заполнен, следующий экземпляр будет расширен. Это обеспечивает автоматическое расширение на основе фактического трафика при его колебаниях. Возможность сокращения .

SAE2.0 предоставляет возможность настройки многоверсионного трафика для веб-приложений . Это обеспечивает независимую настройку сети для каждой версии. В соответствии с потребностями бизнеса коэффициент трафика, соответствующий нескольким версиям, может быть настроен динамически, и нет необходимости указывать количество соответствующих ему экземпляров.Количество экземпляров основано на настроенном верхнем пределе экземпляра и коэффициенте трафика с помощью автоматической эластичной расширение емкости, обеспечивая тем самым сосуществование нескольких версий.

Кроме того, с точки зрения опыта разработки, SAE2.0 может обновить традиционную монолитную архитектуру или архитектуру микросервисов до архитектуры бессерверных приложений без каких-либо изменений в коде . А благодаря возможностям развертывания одним щелчком мыши и создания приложений второго уровня достигается эффективный выпуск приложений. В то же время SAE2.0 также имеет возможности проектирования платформ, такие как CLI и S2A, что значительно повышает эффективность исследований и разработок пользователей. Кроме того, он также имеет функцию Knative Adaptor, позволяющую очень плавно публиковать приложения Knative в SAE2.0.