Перейти к основному содержанию

20 декабря 2024 года

Привязка организации к подписке через маркетплейс

Теперь вы можете привязать новую подписку через маркетплейс к существующей организации ClickHouse Cloud. После оформления подписки через маркетплейс и перехода в ClickHouse Cloud вы сможете привязать к новой подписке через маркетплейс уже существующую организацию, созданную ранее. С этого момента ресурсы вашей организации будут оплачиваться через маркетплейс.

Обязательный срок действия для ключей OpenAPI

Теперь можно ограничить допустимые сроки действия ключей API, чтобы исключить создание бессрочных ключей OpenAPI. Чтобы включить эти ограничения для вашей организации, обратитесь в ClickHouse Cloud Support.

Пользовательские адреса электронной почты для уведомлений

Теперь администраторы организации могут добавлять к конкретному уведомлению дополнительные адреса электронной почты в качестве получателей. Это удобно, если вы хотите отправлять уведомления на адрес-алиас или другим сотрудникам вашей организации, которые могут не быть пользователями ClickHouse Cloud. Чтобы настроить это, откройте настройки уведомлений в консоли ClickHouse Cloud и измените адреса электронной почты, на которые должны приходить уведомления.

6 декабря 2024 г.

BYOC (бета)

Собственное облако для AWS теперь доступно в бета-версии. Эта модель развертывания позволяет развертывать и запускать ClickHouse Cloud в собственной учетной записи AWS. Сейчас поддерживается развертывание более чем в 11 регионах AWS, и вскоре их станет еще больше. Чтобы получить доступ, обратитесь в службу поддержки. Обратите внимание, что этот вариант развертывания предназначен только для крупных развертываний.

Коннектор ClickPipes для CDC (фиксации изменений данных) в Postgres

Эта готовая интеграция позволяет всего за несколько кликов реплицировать базы данных Postgres в ClickHouse Cloud и использовать ClickHouse для сверхбыстрой аналитики. Этот коннектор можно использовать как для непрерывной репликации, так и для разовых миграций из Postgres.

Панели мониторинга (бета)

На этой неделе мы рады объявить о запуске бета-версии панелей мониторинга в ClickHouse Cloud. С их помощью можно превращать сохранённые запросы в визуализации, размещать визуализации на панелях мониторинга и работать с панелями мониторинга, используя параметры запроса. Чтобы начать, ознакомьтесь с документацией по панелям мониторинга.

Эндпоинты Query API (GA)

Мы рады сообщить о выходе эндпоинтов Query API в ClickHouse Cloud на стадию GA. Эндпоинты Query API позволяют всего за пару кликов создать REST API для сохраненных запросов и начать использовать данные в приложении без необходимости разбираться с клиентскими библиотеками для разных языков или сложной аутентификацией. С момента первоначального запуска мы выпустили ряд улучшений, в том числе:
  • Снижение задержки конечной точки, особенно при холодном старте
  • Расширенные средства управления RBAC для конечных точек
  • Настраиваемые домены, разрешенные для CORS
  • Потоковая передача результатов
  • Поддержка всех совместимых с ClickHouse выходных форматов
Помимо этих улучшений, мы рады представить универсальные эндпоинты Query API, которые на основе существующей инфраструктуры позволяют выполнять произвольные SQL-запросы к вашим сервисам ClickHouse Cloud. Универсальные эндпоинты можно включить и настроить на странице настроек сервиса. Чтобы начать, ознакомьтесь с документацией по эндпоинтам Query API.

Нативная поддержка JSON (бета)

Мы открываем бета-доступ к нативной поддержке JSON в ClickHouse Cloud. Чтобы начать, обратитесь в службу поддержки для включения вашего сервиса ClickHouse Cloud.

Векторный поиск с использованием индексов векторного сходства (ранний доступ)

Мы объявляем о раннем доступе к индексам векторного сходства для приближённого векторного поиска. ClickHouse уже предлагает широкие возможности для работы с векторами, включая широкий набор [Функции расстояния]https://clickhouse.com/blog/reinvent-2024-product-announcements#vector-search-using-vector-similarity-indexes-early-access) и возможность выполнять линейное сканирование. Кроме того, недавно мы добавили экспериментальный приближённый векторный поиск на базе библиотеки usearch и алгоритма приближённого поиска ближайших соседей Hierarchical Navigable Small Worlds (HNSW). Чтобы начать, запишитесь в лист ожидания раннего доступа.

Пользователи ClickHouse-connect (Python) и ClickHouse Kafka Connect

Клиентам, столкнувшимся с проблемой, из-за которой клиенты могли получать Исключение MEMORY_LIMIT_EXCEEDED, были отправлены уведомления по электронной почте. Пожалуйста, обновитесь до:
  • Kafka-Connect: > 1.2.5
  • ClickHouse-Connect (Java): > 0.8.6

ClickPipes теперь поддерживает доступ к ресурсам между VPC в AWS

Теперь вы можете предоставить однонаправленный доступ к конкретному источнику данных, например AWS MSK. С помощью меж-VPC-доступа к ресурсам на базе AWS PrivateLink и VPC Lattice можно предоставлять доступ к отдельным ресурсам через границы VPC и аккаунтов, а также из сетей в собственной инфраструктуре — без ущерба для конфиденциальности и безопасности при передаче данных через публичную сеть. Чтобы начать работу и настроить общий доступ к ресурсу, прочитайте пост с анонсом.

ClickPipes теперь поддерживает IAM для AWS MSK

Теперь в AWS MSK ClickPipes можно использовать аутентификацию IAM для подключения к брокеру MSK. Чтобы начать, ознакомьтесь с нашей документацией.

Максимальный размер реплики для новых сервисов на AWS

Теперь для всех новых сервисов, созданных на AWS, максимальный доступный размер реплики составляет 236 GiB.

22 ноября 2024 г.

Встроенная расширенная панель мониторинга для обсервабилити в ClickHouse Cloud

Ранее расширенная панель мониторинга для обсервабилити, которая позволяет отслеживать метрики сервера ClickHouse и использование аппаратных ресурсов, была доступна только в ClickHouse с открытым исходным кодом. Мы рады сообщить, что теперь эта возможность доступна в консоли ClickHouse Cloud. Эта панель мониторинга позволяет просматривать запросы на основе таблицы system.dashboards в едином интерфейсе. Перейдите на страницу Monitoring > Service Health, чтобы уже сегодня начать пользоваться расширенной панелью мониторинга для обсервабилити.

Автодополнение SQL на базе ИИ

Мы значительно улучшили автодополнение: теперь новый AI Copilot предлагает встроенные SQL-подсказки прямо во время написания запросов. Эту возможность можно включить, переключив параметр “Enable Inline Code Completion” для любого сервиса ClickHouse Cloud.

Новая роль “billing”

Теперь вы можете назначать пользователям в своей организации новую роль Billing, которая позволяет просматривать информацию о выставлении счетов и управлять ею без возможности настраивать сервисы или управлять ими. Для этого просто пригласите нового пользователя или измените роль существующего, назначив ему роль Billing.

8 ноября 2024 г.

Уведомления для клиентов в ClickHouse Cloud

Теперь в ClickHouse Cloud доступны уведомления в консоли и по электронной почте о ряде событий, связанных с биллингом и масштабированием. Клиенты могут настраивать эти уведомления в центре уведомлений консоли ClickHouse Cloud: показывать их только в интерфейсе, получать по электронной почте или использовать оба варианта. На уровне сервиса можно настроить категории и уровень важности получаемых уведомлений. В будущем мы добавим уведомления и для других событий, а также новые способы их получения. Подробнее о том, как включить уведомления для вашего сервиса, см. в документации ClickHouse.

4 октября 2024 г.

ClickHouse Cloud теперь предлагает HIPAA-ready сервисы в статусе бета для GCP

Клиенты, которым требуется повышенная защита защищенной медицинской информации (PHI), теперь могут начать использовать ClickHouse Cloud в Google Cloud Platform (GCP). ClickHouse внедрил административные, физические и технические меры защиты, предусмотренные правилом безопасности HIPAA, и теперь предлагает настраиваемые параметры безопасности, которые можно применять в зависимости от вашего конкретного сценария использования и рабочей нагрузки. Подробнее о доступных параметрах безопасности см. на нашей странице возможностей безопасности. Сервисы доступны в GCP us-central-1 для клиентов с типом сервиса Dedicated и требуют заключения соглашения Business Associate Agreement (BAA). Чтобы запросить доступ к этой возможности или присоединиться к списку ожидания для дополнительных регионов GCP, AWS и Azure, свяжитесь с отделом продаж или службой поддержки.

Compute-compute separation теперь доступна в закрытой предварительной версии для GCP и Azure

Недавно мы объявили о закрытой предварительной версии Compute-Compute Separation для AWS. Мы рады сообщить, что теперь она доступна и для GCP, и для Azure. Compute-compute separation позволяет назначать отдельные сервисы как сервисы с возможностью чтения и записи или только для чтения, помогая вам подобрать оптимальную конфигурацию вычислительных ресурсов для вашего приложения с точки зрения стоимости и производительности. Подробнее см. в документации.

Коды восстановления MFA в режиме самообслуживания

Клиенты, использующие многофакторную аутентификацию, теперь могут получать коды восстановления, которые можно использовать в случае потери телефона или случайного удаления токена. Клиентам, которые впервые настраивают MFA, код будет предоставлен во время настройки. Клиенты с уже настроенной MFA могут получить код восстановления, удалив текущий токен MFA и добавив новый.

Обновление ClickPipes: пользовательские сертификаты, метрики задержки и многое другое

Мы рады поделиться последними обновлениями ClickPipes — самого простого способа выполнять ингестию данных в ваш сервис ClickHouse. Эти новые возможности дают больше контроля над ингестией данных и улучшают видимость метрик производительности. Пользовательские сертификаты аутентификации для Kafka ClickPipes for Kafka теперь поддерживает пользовательские сертификаты аутентификации для брокеров Kafka с использованием SASL и публичного SSL/TLS. Теперь во время настройки ClickPipe вы можете легко загрузить собственный сертификат в разделе SSL Certificate, чтобы обеспечить более безопасное подключение к Kafka. Представляем метрики задержки для Kafka и Kinesis Видимость производительности имеет решающее значение. В ClickPipes теперь доступен график задержки, который показывает время от публикации сообщения (в Kafka topic или Kinesis Stream) до ингестии в ClickHouse Cloud. Эта новая метрика позволяет точнее отслеживать производительность ваших конвейеров данных и оптимизировать их по мере необходимости.
Управление масштабированием для Kafka и Kinesis (закрытая бета) При высокой пропускной способности могут потребоваться дополнительные ресурсы, чтобы удовлетворить ваши требования к объёму данных и задержкам. Мы добавляем горизонтальное масштабирование для ClickPipes, доступное напрямую через нашу консоль ClickHouse Cloud. Сейчас эта возможность находится в стадии закрытой беты, что позволяет эффективнее масштабировать ресурсы в соответствии с вашими требованиями. Чтобы присоединиться к бете, обратитесь в support. Ингестия необработанных сообщений для Kafka и Kinesis Теперь можно выполнять приём сообщения Kafka или Kinesis целиком, без парсинга. ClickPipes теперь поддерживает виртуальный столбец _raw_message, который позволяет сопоставить всё сообщение с одним столбцом String. Это даёт вам больше гибкости при работе с необработанными данными.

29 августа 2024 г.

Новая версия Terraform-провайдера — v1.0.0

Terraform позволяет программно управлять сервисами ClickHouse Cloud и хранить конфигурацию в виде кода. Наш Terraform-провайдер был скачан почти 200 000 раз и теперь официально имеет версию v1.0.0. Эта версия включает такие улучшения, как усовершенствованная логика повторных попыток и новый ресурс для подключения частных конечных точек к вашему сервису ClickHouse Cloud. Вы можете скачать Terraform-провайдер здесь и посмотреть полный журнал изменений здесь.

Отчет SOC 2 Type II за 2024 год и обновленный сертификат ISO 27001

Мы рады сообщить о публикации нашего отчета SOC 2 Type II за 2024 год и обновленного сертификата ISO 27001. Оба документа теперь охватывают наши недавно запущенные сервисы в Azure, а также по-прежнему распространяются на сервисы в AWS и GCP. Наш SOC 2 Type II подтверждает нашу неизменную приверженность обеспечению безопасности, доступности, целостности обработки и конфиденциальности сервисов, которые мы предоставляем пользователям ClickHouse. Подробнее см. SOC 2 - SOC for Service Organizations: Trust Services Criteria, опубликованный American Institute of Certified Public Accountants (AICPA), и What is ISO/IEC 27001 от International Standards Organization (ISO). Также посетите наш Trust Center, чтобы ознакомиться с документами и отчетами по безопасности и соответствию требованиям.

15 августа 2024 г.

Compute-compute separation теперь доступна в закрытой предварительной версии для AWS

В существующих сервисах ClickHouse Cloud реплики обрабатывают и чтение, и запись, и настроить отдельную реплику только на один тип операций нельзя. Мы готовим новую возможность под названием Compute-compute separation, которая позволяет назначать отдельные сервисы как сервисы с возможностью чтения и записи или только для чтения, чтобы вы могли подобрать оптимальную конфигурацию вычислительных ресурсов для своего приложения с точки зрения стоимости и производительности. Новая возможность Compute-compute separation позволяет создавать несколько групп вычислительных узлов, каждая со своей конечной точкой, использующих одну и ту же папку Объектного хранилища и, следовательно, одни и те же таблицы, представления и т. д. Подробнее см. здесь. Если вы хотите получить доступ к этой возможности в рамках закрытой предварительной версии, обратитесь в службу поддержки.

ClickPipes для S3 и GCS теперь в GA, с поддержкой непрерывного режима

ClickPipes — самый простой способ выполнять ингестию данных в ClickHouse Cloud. Мы рады сообщить, что ClickPipes для S3 и GCS теперь общедоступны. ClickPipes поддерживает как однократный батч-приём, так и «непрерывный режим». Задача приёма загружает все файлы, соответствующие шаблону, из указанного удалённого бакета в целевую таблицу ClickHouse. В «непрерывном режиме» задача ClickPipes выполняется постоянно, обеспечивая приём подходящих файлов, которые добавляются в удалённый бакет объектного хранилища по мере поступления. Это позволяет превратить любой бакет объектного хранилища в полноценное промежуточное хранилище для ингестии данных в ClickHouse Cloud. Подробнее о ClickPipes читайте в нашей документации.

18 июля 2024 г.

Конечная точка Prometheus для метрик теперь общедоступна

В нашем последнем changelog ClickHouse Cloud мы объявили о закрытой предварительной версии экспорта метрик Prometheus из ClickHouse Cloud. Эта возможность позволяет использовать ClickHouse Cloud API, чтобы передавать метрики в такие инструменты, как Grafana и Datadog, для визуализации. Мы рады сообщить, что эта возможность теперь общедоступна. Подробнее см. в нашей документации.

Инспектор таблиц в консоли ClickHouse Cloud

В ClickHouse есть команды, такие как DESCRIBE, которые позволяют изучить структуру таблицы. Эти команды выводят результат в консоль, но пользоваться ими не всегда удобно: чтобы получить все нужные данные о таблицах и столбцах, часто приходится комбинировать несколько запросов. Недавно мы запустили Table Inspector в консоли ClickHouse Cloud, который позволяет получать важную информацию о таблицах и столбцах прямо в интерфейсе, без необходимости писать SQL. Вы можете опробовать Table Inspector для своих сервисов в консоли ClickHouse Cloud. Он показывает сведения о схеме, хранилище, сжатии и многом другом в едином интерфейсе.

Новый API Java-клиента

Наш Java-клиент — один из самых популярных клиентов для подключения к ClickHouse. Мы стремились сделать его ещё проще и удобнее в использовании, в том числе за счёт переработанного API и различных оптимизаций производительности. Эти изменения значительно упростят подключение к ClickHouse из ваших Java-приложений. Подробнее о том, как использовать обновлённый Java-клиент, можно прочитать в этом посте в блоге.

Новый анализатор включен по умолчанию

Последние несколько лет мы работали над новым анализатором для анализа запросов и их оптимизации. Этот анализатор повышает производительность запросов и позволит нам внедрять дальнейшие оптимизации, включая более быстрые и эффективные JOIN-операции. Ранее новым пользователям нужно было включать эту возможность с помощью настройки allow_experimental_analyzer. Теперь этот улучшенный анализатор по умолчанию доступен в новых сервисах ClickHouse Cloud. Следите за обновлениями: у нас запланировано еще много оптимизаций и других улучшений анализатора.

28 июня 2024 г.

ClickHouse Cloud for Microsoft Azure стал общедоступен

Впервые мы объявили о поддержке Microsoft Azure в статусе бета в мае этого года. В этом последнем облачном релизе мы рады сообщить, что поддержка Azure переходит из статуса бета в общедоступный режим. Теперь ClickHouse Cloud доступен на всех трех крупнейших облачных платформах: AWS, Google Cloud Platform и Microsoft Azure. В этот релиз также входит поддержка подписок через Microsoft Azure Marketplace. На первом этапе сервис будет доступен в следующих регионах:
  • США: West US 3 (Arizona)
  • США: East US 2 (Virginia)
  • Европа: Germany West Central (Frankfurt)
Если вам нужен какой-то конкретный регион, пожалуйста, свяжитесь с нами.

Аналитика журнала запросов

Новый интерфейс Query Insights в консоли ClickHouse Cloud значительно упрощает работу со встроенным журналом запросов ClickHouse. Таблица ClickHouse system.query_log — ключевой источник информации для оптимизации запросов, отладки, а также мониторинга общего состояния и производительности кластера. Но есть одна сложность: из-за более чем 70 полей и нескольких записей на каждый запрос разобраться в журнале запросов не так просто. Эта первая версия Query Insights задает направление для дальнейшей работы по упрощению отладки запросов и выявлению шаблонов оптимизации. Мы будем рады вашему отзыву по мере развития этой возможности, поэтому свяжитесь с нами — ваш отклик очень важен.

Конечная точка Prometheus для метрик (закрытая предварительная версия)

Пожалуй, это одна из самых востребованных возможностей: теперь вы можете экспортировать метрики Prometheus из ClickHouse Cloud в Grafana и Datadog для визуализации. Prometheus предоставляет решение с открытым исходным кодом для мониторинга ClickHouse и настройки пользовательских оповещений. Доступ к метрикам Prometheus для вашего сервиса ClickHouse Cloud можно получить через ClickHouse Cloud API. Сейчас эта возможность доступна в рамках закрытой предварительной версии. Чтобы включить её для вашей организации, обратитесь в команду поддержки.

Другие возможности

  • Настраиваемые резервные копии — возможность задавать собственные политики резервного копирования, включая частоту, срок хранения и расписание, — теперь общедоступны.

13 июня 2024 г.

Настраиваемые смещения для коннектора Kafka в ClickPipes (бета)

До недавнего времени при настройке нового Kafka Connector for ClickPipes данные всегда читались с начала топика Kafka. В некоторых сценариях этого недостаточно: например, когда нужно повторно обработать исторические данные, отслеживать новые поступающие данные или возобновить обработку с точно заданного места. В ClickPipes for Kafka появилась новая возможность, которая повышает гибкость и дает больше контроля над чтением данных из топиков Kafka. Теперь можно настроить смещение, начиная с которого будут читаться данные. Доступны следующие варианты:
  • С начала: начните чтение данных с самого начала топика Kafka. Этот вариант подходит, если вам нужно повторно обработать все исторические данные.
  • С последнего: начните чтение данных с самого последнего смещения. Это полезно, если вас интересуют только новые сообщения.
  • С временной метки: начните чтение данных из сообщений, созданных в указанную временную метку или позже. Эта возможность обеспечивает более точный контроль и позволяет возобновить обработку с конкретного момента времени.

Подключение сервисов к каналу Fast release

Канал Fast release позволяет вашим сервисам получать обновления раньше общего графика релизов. Раньше для включения этой возможности требовалась помощь службы поддержки. Теперь вы можете включить эту возможность для своих сервисов напрямую в консоли ClickHouse Cloud. Просто перейдите в Settings и нажмите Enroll in fast releases. После этого ваш сервис будет получать обновления, как только они станут доступны.

Поддержка Terraform для горизонтального масштабирования

ClickHouse Cloud поддерживает горизонтальное масштабирование, то есть возможность добавлять в сервисы дополнительные реплики того же размера. Горизонтальное масштабирование повышает производительность и степень параллелизма, обеспечивая одновременное выполнение запросов. Ранее для добавления дополнительных реплик требовалось использовать либо консоль ClickHouse Cloud, либо API. Теперь вы можете использовать Terraform, чтобы добавлять или удалять реплики в вашем сервисе, и программно масштабировать сервисы ClickHouse по мере необходимости. Дополнительную информацию см. в Terraform-провайдере ClickHouse.

30 мая 2024 г.

Делитесь запросами со своими коллегами

Когда вы пишете SQL-запрос, велика вероятность, что он пригодится и другим участникам вашей команды. Раньше для этого приходилось отправлять запрос через Slack или по электронной почте, и если вы его изменяли, коллеги не могли автоматически получать обновления. Мы рады сообщить, что теперь вы можете легко делиться запросами через консоль ClickHouse Cloud. В редакторе запросов можно поделиться запросом напрямую со всей командой или с конкретным участником. Также можно указать, предоставить ли им доступ только для чтения или для записи. Чтобы опробовать новую возможность совместного доступа к запросам, нажмите кнопку Share в редакторе запросов.

ClickHouse Cloud for Microsoft Azure теперь в бета-версии

Мы наконец запустили возможность создавать сервисы ClickHouse Cloud в Microsoft Azure. Уже многие наши клиенты используют ClickHouse Cloud в Azure в продакшне в рамках программы закрытой предварительной версии. Теперь любой может создать собственный сервис в Azure. Все возможности ClickHouse, поддерживаемые в AWS и GCP, также будут работать в Azure. Мы ожидаем, что ClickHouse Cloud for Azure достигнет стадии General Availability в ближайшие несколько недель. Прочитайте эту запись в блоге, чтобы узнать больше, или создайте новый сервис в Azure через консоль ClickHouse Cloud. Примечание: сервисы Development для Azure в настоящее время не поддерживаются. Наша возможность Private Link позволяет подключать ваши сервисы ClickHouse Cloud к внутренним сервисам в вашей учетной записи у облачного провайдера без маршрутизации трафика через публичный интернет, что снижает затраты и повышает уровень безопасности. Раньше это было сложно настроить и требовало использования ClickHouse Cloud API. Теперь вы можете настроить частные конечные точки всего за несколько кликов прямо в консоли ClickHouse Cloud. Просто перейдите в раздел Settings вашего сервиса, затем в раздел Security и нажмите Set up private endpoint.

17 мая 2024

Приём данных из Amazon Kinesis с помощью ClickPipes (бета)

ClickPipes — это сервис, доступный только в ClickHouse Cloud, для приёма данных без написания кода. Amazon Kinesis — это полностью управляемый AWS-сервис для стриминга, приёма и хранения потоков данных с целью их обработки. Мы рады представить бета-версию ClickPipes для Amazon Kinesis — одну из самых востребованных интеграций. Мы планируем добавить в ClickPipes больше интеграций, поэтому сообщите нам, какие источники данных вы хотели бы видеть в числе поддерживаемых. Подробнее об этой возможности читайте здесь. Вы можете попробовать новую интеграцию Amazon Kinesis для ClickPipes в консоли ClickHouse Cloud:

Настраиваемые резервные копии (закрытая предварительная версия)

Резервные копии важны для любой базы данных (какой бы надежной она ни была), и мы очень серьезно относимся к резервному копированию с самого первого дня существования ClickHouse Cloud. На этой неделе мы запустили настраиваемые резервные копии, которые дают гораздо больше гибкости в управлении резервными копиями вашего сервиса. Теперь вы можете настраивать время начала, срок хранения и частоту. Эта возможность доступна для сервисов Production и Dedicated и недоступна для сервисов Development. Поскольку эта возможность находится на этапе закрытой предварительной версии, пожалуйста, обратитесь в службу поддержки support@clickhouse.com, чтобы включить ее для вашего сервиса. Подробнее о настраиваемых резервных копиях читайте здесь.

Создавайте API из своих SQL-запросов (бета)

Когда вы пишете SQL-запрос для ClickHouse, вам всё равно нужно подключаться к ClickHouse через драйвер, чтобы предоставить приложению доступ к этому запросу. Теперь, благодаря нашей новой возможности Query Endpoints, вы можете выполнять SQL-запросы напрямую через API без какой-либо настройки. Можно указать, чтобы эндпоинты запросов возвращали JSON, CSV или TSV. Нажмите кнопку “Share” в консоли ClickHouse Cloud, чтобы опробовать эту новую возможность со своими запросами. Подробнее о Query Endpoints читайте здесь.

Официальная сертификация ClickHouse теперь доступна

В учебном курсе ClickHouse Develop есть 12 бесплатных модулей. До этой недели не было официального способа подтвердить свой уровень владения ClickHouse. Недавно мы запустили официальный экзамен, чтобы вы могли стать сертифицированным разработчиком ClickHouse. Успешная сдача этого экзамена позволяет подтвердить текущим и потенциальным работодателям ваши знания ClickHouse в таких областях, как ингестия данных, моделирование, анализ, оптимизация производительности и не только. Сдать экзамен можно здесь, а подробнее о сертификации ClickHouse — в этой публикации в блоге.

25 апреля 2024 г.

Загрузка данных из S3 и GCS с помощью ClickPipes

В недавно выпущенной консоли ClickHouse Cloud вы, возможно, уже заметили новый раздел под названием “Источники данных”. Страница “Источники данных” работает на базе ClickPipes — встроенной возможности ClickHouse Cloud, которая позволяет легко загружать данные из самых разных источников в ClickHouse Cloud. В последнем обновлении ClickPipes появилась возможность напрямую загружать данные из Amazon S3 и Google Cloud Storage. Хотя вы по-прежнему можете использовать наши встроенные табличные функции, ClickPipes — это полностью управляемый сервис с настройкой через интерфейс, который позволяет загружать данные из S3 и GCS всего в несколько кликов. Эта возможность всё ещё находится в стадии закрытой предварительной версии, но вы уже сегодня можете попробовать её в консоли ClickHouse Cloud.

Используйте Fivetran для загрузки данных из более чем 500 источников в ClickHouse Cloud

ClickHouse может быстро выполнять запросы к вашим большим массивам данных, но для начала эти данные нужно загрузить в ClickHouse. Благодаря широкому набору коннекторов Fivetran теперь можно быстро загружать данные из более чем 500 источников. Если вам нужно загружать данные из Zendesk, Slack или любых других используемых вами приложений, новый пункт назначения ClickHouse в Fivetran позволяет использовать ClickHouse в качестве целевой базы данных для данных ваших приложений. Это интеграция с открытым исходным кодом, созданная нашей командой Integrations за многие месяцы напряжённой работы. Подробнее — в нашей статье в блоге о релизе и в репозитории GitHub.

Другие изменения

Изменения в консоли
  • Поддержка форматов вывода в SQL-консоли
Изменения в интеграциях
  • Коннектор Kafka в ClickPipes поддерживает конфигурацию с несколькими брокерами
  • Коннектор Power BI поддерживает задание параметров конфигурации драйвера ODBC.

18 апреля 2024 г.

Регион AWS Tokyo теперь доступен в ClickHouse Cloud

В этом релизе для ClickHouse Cloud добавлен новый регион AWS Tokyo (ap-northeast-1). Поскольку мы стремимся сделать ClickHouse самой быстрой базой данных, мы постоянно расширяем список регионов во всех облаках, чтобы максимально снизить задержки. Теперь вы можете создать новый сервис в Tokyo в обновлённой консоли ClickHouse Cloud. Другие изменения:

Изменения в консоли

  • Поддержка формата Avro для ClickPipes for Kafka теперь общедоступна
  • Реализована полная поддержка импорта ресурсов (сервисов и частных конечных точек) в Terraform-провайдере

Изменения в интеграциях

  • Крупный стабильный релиз клиента NodeJS: расширенная поддержка TypeScript для query и ResultSet, настройка через URL
  • Kafka Connector: исправлена ошибка, из-за которой при записи в DLQ игнорировались исключения, добавлена поддержка типа Avro Enum, опубликованы руководства по использованию коннектора в MSK и Confluent Cloud
  • Grafana: исправлена работа с типом Nullable в интерфейсе, исправлена поддержка динамического имени таблицы трассировки OTEL
  • DBT: исправлены настройки модели для пользовательской материализации.
  • Java-клиент: исправлена ошибка некорректного разбора кода ошибки
  • клиент Python: исправлена привязка параметров для числовых типов, исправлены ошибки при привязке списков чисел в запросе, добавлена поддержка Point в SQLAlchemy.

4 апреля 2024 г.

Представляем новую консоль ClickHouse Cloud

В этом релизе представлена закрытая предварительная версия новой консоли ClickHouse Cloud. В ClickHouse мы постоянно думаем о том, как улучшить работу разработчиков. Мы понимаем, что недостаточно просто предоставить самое быстрое хранилище данных для работы в реальном времени — им также должно быть удобно пользоваться и управлять. Тысячи пользователей ClickHouse Cloud ежемесячно выполняют миллиарды запросов в нашей SQL-консоли, поэтому мы решили активнее инвестировать в развитие консоли мирового уровня, чтобы взаимодействовать с вашими сервисами ClickHouse Cloud стало проще, чем когда-либо. Новая консоль ClickHouse Cloud объединяет наш автономный редактор SQL и консоль управления в одном интуитивно понятном интерфейсе. Некоторые клиенты получат доступ к предварительной версии новой консоли ClickHouse Cloud — единому и удобному способу исследовать данные в ClickHouse и управлять ими. Если вы хотите получить приоритетный доступ, свяжитесь с нами по адресу support@clickhouse.com.

28 марта 2024 г.

В этом релизе появилась поддержка Microsoft Azure и горизонтального масштабирования через API, а также каналов выпуска в рамках закрытой предварительной версии.

Общие обновления

  • Добавлена поддержка Microsoft Azure в рамках закрытой предварительной версии. Чтобы получить доступ, свяжитесь с менеджером аккаунта или службой поддержки либо запишитесь в лист ожидания.
  • Добавлены Release Channels — возможность задавать сроки обновлений в зависимости от типа среды. В этом релизе мы добавили канал fast, который позволяет обновлять непродакшн-среды раньше продакшн-сред (чтобы включить его, пожалуйста, обратитесь в службу поддержки).

Изменения в администрировании

  • Добавлена поддержка настройки горизонтального масштабирования через API (закрытая предварительная версия; чтобы включить эту возможность, необходимо обратиться в службу поддержки)
  • Улучшено автомасштабирование: теперь для сервисов, сталкивающихся при запуске с ошибками нехватки памяти, ресурсы автоматически увеличиваются
  • Добавлена поддержка CMEK для AWS через Terraform-провайдер

Изменение в консоли

  • Добавлена поддержка входа через Microsoft
  • Добавлена возможность общего доступа к параметризованным запросам в SQL-консоли
  • Значительно повышена производительность редактора запросов (в некоторых регионах ЕС задержка снижена с 5 с до 1,5 с)

Изменение в интеграциях

Обновления безопасности

14 марта 2024 г.

В этом релизе в рамках раннего доступа представлены новый интерфейс Cloud Console, ClickPipes для пакетной загрузки из S3 и GCS, а также поддержка формата Avro в ClickPipes for Kafka. Также версия базы данных ClickHouse обновлена до 24.1, что добавляет поддержку новых функций, а также оптимизации производительности и использования ресурсов.

Изменения в консоли

  • Новый интерфейс консоли Cloud доступен в рамках раннего доступа (если вы хотите принять участие, пожалуйста, обратитесь в службу поддержки).
  • ClickPipes для пакетной загрузки из S3 и GCS доступны в рамках раннего доступа (если вы хотите принять участие, пожалуйста, обратитесь в службу поддержки).
  • Поддержка формата Avro в ClickPipes for Kafka доступна в рамках раннего доступа (если вы хотите принять участие, пожалуйста, обратитесь в службу поддержки).

Обновление версии ClickHouse

  • Оптимизации для FINAL, улучшенная векторизация и более быстрые агрегации — подробности см. в блоге о релизе 23.12.
  • Новые функции для обработки punycode, вычисления сходства строк и обнаружения выбросов, а также оптимизации памяти для слияний и Keeper — подробности см. в блоге о релизе 24.1 и презентации.
  • Эта версия ClickHouse Cloud основана на 24.1; в ней доступны десятки новых возможностей, улучшений производительности и исправлений ошибок. Подробности см. в журнале изменений основной базы данных.

Изменения в интеграциях

  • Grafana: Исправлены миграция панелей мониторинга для v4 и логика ad-hoc-фильтрации
  • Tableau Connector: Исправлены функция DATENAME и округление для аргументов “real”
  • Kafka Connector: Исправлен NPE при инициализации соединения, добавлена возможность указывать параметры драйвера JDBC
  • клиент Go: Снижено потребление памяти при обработке ответов, исправлены экстремальные значения Date32, исправлены сообщения об ошибках при включенном сжатии
  • клиент Python: Улучшена поддержка часовых поясов в параметрах datetime, повышена производительность при работе с Pandas DataFrame

29 февраля 2024 г.

В этом выпуске ускорена загрузка SQL-консоли, добавлена поддержка аутентификации SCRAM-SHA-256 в ClickPipes и расширена поддержка вложенных структур в Kafka Connect.

Изменения в консоли

  • Оптимизировано время начальной загрузки приложения SQL-консоли
  • Исправлено состояние гонки в SQL-консоли, приводившее к ошибке ‘authentication failed’
  • Исправлено поведение на странице мониторинга, где последнее значение выделения памяти иногда было некорректным
  • Исправлено поведение, при котором SQL-консоль иногда отправляла повторяющиеся команды KILL QUERY
  • В ClickPipes добавлена поддержка метода аутентификации SCRAM-SHA-256 для источников данных на основе Kafka

Изменение в интеграциях

  • Kafka Connector: расширена поддержка сложных вложенных структур (Array, Map); добавлена поддержка типа FixedString; добавлена поддержка ингестии в несколько баз данных
  • Metabase: исправлена несовместимость с ClickHouse версий ниже 23.8
  • DBT: добавлена возможность передавать настройки при создании модели
  • клиент Node.js: добавлена поддержка длительных запросов (>1 ч) и корректная обработка пустых значений

15 февраля 2024 г.

В этом выпуске обновлена версия ядра базы данных, добавлена возможность настраивать Private Link через Terraform и реализована поддержка семантики exactly-once для асинхронных вставок через Kafka Connect.

Обновление версии ClickHouse

  • Движок таблицы S3Queue для непрерывной загрузки данных из S3 по расписанию готов к использованию в продакшне — подробности см. в блоге о релизе 23.11.
  • Значительно повышена производительность FINAL и улучшена векторизация SIMD-инструкций, что ускоряет выполнение запросов, — подробности см. в блоге о релизе 23.12.
  • Эта версия ClickHouse Cloud основана на 23.12; в ней появились десятки новых возможностей, улучшений производительности и исправлений ошибок. Подробности см. в журналах изменений ядра базы данных.

Изменения в консоли

  • Добавлена возможность настраивать AWS Private Link и GCP Private Service Connect через Terraform-провайдер
  • Повышена отказоустойчивость импорта данных из удалённых файлов
  • Для всех импортов данных добавлена выдвижная панель с подробной информацией о статусе импорта
  • Добавлена поддержка учетных данных key/secret key при импорте данных из S3

Изменение в интеграциях

  • Kafka Connect
    • Добавлена поддержка async_insert для режима exactly once (по умолчанию отключена)
  • клиент Go
    • Исправлена привязка DateTime
    • Улучшена производительность батчевой вставки
  • Java-клиент
    • Исправлена проблема со сжатием запросов

Изменения настроек

  • use_mysql_types_in_show_columns больше не требуется. Он будет автоматически включаться при подключении через интерфейс MySQL.
  • Значение async_insert_max_data_size по умолчанию теперь составляет 10 MiB

2 февраля 2024

В этом релизе стали доступны ClickPipes для Azure Event Hub, значительно улучшена навигация по логам и трассам с помощью коннектора ClickHouse Grafana v4, а также впервые добавлена поддержка инструментов управления схемами баз данных Flyway и Atlas.

Изменение в консоли

  • Добавлена поддержка ClickPipes для Azure Event Hub
  • Новые сервисы запускаются с временем простоя по умолчанию 15 минут

Изменение в интеграциях

  • Источник данных ClickHouse для Grafana — релиз v4
    • Полностью переработан конструктор запросов: добавлены специализированные редакторы для Table, Logs, Time Series и Traces
    • Полностью переработан генератор SQL для поддержки более сложных и динамических запросов
    • Добавлена полноценная поддержка OpenTelemetry в представлениях Log и Trace
    • Расширена конфигурация: теперь можно указывать таблицы и столбцы по умолчанию для Logs и Traces
    • Добавлена возможность указывать пользовательские HTTP-заголовки
    • И многое другое — смотрите полный список изменений
  • Инструменты управления схемой базы данных
  • Kafka Connector Sink
    • Оптимизирована ингестия в таблицу со значениями по умолчанию
    • Добавлена поддержка дат в строковом формате для DateTime64
  • Metabase
    • Добавлена поддержка подключения к нескольким базам данных

18 января 2024 г.

В этом релизе добавлен новый регион AWS (Лондон / eu-west-2), добавлена поддержка ClickPipes для Redpanda, Upstash и Warpstream, а также повышена надежность ключевой функции базы данных is_deleted.

Общие изменения

  • Новый регион AWS: Лондон (eu-west-2)

Изменение в консоли

  • В ClickPipes добавлена поддержка Redpanda, Upstash и Warpstream
  • Механизм аутентификации ClickPipes теперь можно настраивать в интерфейсе

Изменение в интеграциях

  • Java-клиент:
    • Несовместимые изменения: удалена возможность указывать в вызове произвольные URL-обработчики. Эта возможность удалена из ClickHouse
    • Устаревания: Java CLI client и пакеты gRPC
    • Добавлена поддержка формата RowBinaryWithDefaults для уменьшения размера батча и снижения рабочей нагрузки на экземпляр ClickHouse (по запросу Exabeam)
    • Границы диапазонов Date32 и DateTime64 приведены в соответствие с ClickHouse, обеспечена совместимость со строковым типом Spark Array, улучшен механизм выбора узла
  • Kafka Connector: добавлена JMX-панель мониторинга для Grafana
  • PowerBI: настройки драйвера ODBC теперь можно настраивать в интерфейсе
  • JavaScript-клиент: стала доступна сводная информация о запросе, добавлена возможность указывать подмножество конкретных столбцов для вставки, параметр keep_alive теперь можно настраивать для веб-клиента
  • клиент Python: добавлена поддержка типа Nothing для SQLAlchemy

Изменения, связанные с надежностью

  • Обратно несовместимое изменение для пользователей: ранее две возможности (is_deleted и OPTIMIZE CLEANUP) при определенных условиях могли приводить к повреждению данных в ClickHouse. Чтобы защитить целостность данных пользователей и при этом сохранить основную функциональность, мы изменили работу этой возможности. В частности, настройка MergeTree clean_deleted_rows теперь устарела и больше не оказывает никакого эффекта. Ключевое слово CLEANUP по умолчанию запрещено (чтобы использовать его, нужно включить allow_experimental_replacing_merge_with_cleanup). Если вы решите использовать CLEANUP, необходимо убедиться, что оно всегда применяется вместе с FINAL, а также гарантировать, что после выполнения OPTIMIZE FINAL CLEANUP не будут вставляться строки с более старыми версиями.
Последнее изменение 10 июня 2026 г.