Использование GitHub Models для разработки приложений на основе искусственного интеллекта в вашей организации

Примечание.

GitHub Models для организаций и репозиториев находится в public preview и подлежит изменению.

GitHub Models позволяет разработчикам создавать приложения с поддержкой искусственного интеллекта в масштабе, пока ваше предприятие поддерживает контроль, соответствие требованиям и эффективность затрат.

Почему GitHub Models?

Централизованное управление моделями: управление моделями ИИ и поставщиками, доступными разработчикам в вашей организации.
Разработка ИИ на скорости: быстрое прототип, оценка и оптимизация запросов и моделей.
API access: Используйте API GitHub Models REST для автоматизации и интеграции с корпоративными рабочими процессами.
Интеграция пользовательских моделей. Приведите собственные ключи API LLM для подключения внешних или пользовательских моделей, что дает вашей организации большую гибкость и контроль над тем, какие модели доступны в GitHub Models, а также в соответствии с существующими методами оплаты, кредитами и поставщиками.
Управление и контроль соответствия требованиям. Применение стандартов организации и мониторинг использования моделей.
Оптимизация затрат. Избегайте непредвиденных затрат из высокоценных моделей.
Collaboration: Делитесь запросами и результатами с использованием стандартных GitHub практик разработки.
архитектура, ориентированная на безопасность: Будьте уверены, что ваши данные остаются внутри GitHub и Azure и не передаются поставщикам моделей.
Визуальный интерфейс: разрешить участникам команды, не являющихся техническими, участвовать вместе с разработчиками.
Version control: Все изменения запросов и моделей проходят через стандартный поток GitHub commit и pull request, чтобы вы знали, когда и почему изменился запрос.

См. О моделях GitHub.

Пример. Использование GitHub Models с GitHub Actions для суммирование проблем

Крупные проекты разработки программного обеспечения часто содержат вопросы, полные технических сведений. С помощью GitHub Models и GitHub Actionsможно развернуть сводки проблем с искусственным интеллектом.

          **Предварительные требования.** Включите GitHub Models в организации и задайте модели и издатели, которые вы хотите сделать доступными для отдельных репозиториев.

1. Создание запроса в репозитории

На вкладке "Модели" репозитория создайте запрос с помощью редактора запросов.

Пример системного запроса:

Вы — обобщитель проблем с GitHub. Подчеркнуть ключевые технические моменты или важные вопросы.

Пример запроса пользователя:

Сводные сведения об этой проблеме : {input}}

```
       **Выполнение и итерацию в запросе**
```
Запустите запрос. Укажите пример содержимого проблемы в области "Переменные" в качестве значения {{input}}.

Попробуйте использовать разные модели (например, OpenAI GPT-4o) и сравнить результаты. Настройте такие параметры, как максимальные маркеры и температура. Выполните итерацию до тех пор, пока вы не удовлетворены результатами.
```
       **При необходимости выполните более обширные тесты**
```
Представление "Сравнение" позволяет одновременно запускать несколько запросов к разным моделям и видеть, как результаты сравниваются в представлении сетки. Вы также можете определить и использовать вычислители, чтобы убедиться, что результаты содержат определенные ключевые слова или соответствуют другим стандартам.
```
       **Фиксация запроса**
```
Присвойте запросу имя и зафиксируйте изменения для прохождения потока запроса на вытягивание. Например, если вы назовете запрос summarize, вы получите summarize.prompt.yaml файл на корневом уровне репозитория, который выглядит примерно так:
```
messages:
  - role: system
    content: >-
      You are a summarizer of GitHub issues. Emphasize key technical points or
      important questions.
  - role: user
    content: 'Summarize this issue, please - {{input}}'
model: openai/gpt-4o
modelParameters:
  max_tokens: 4096
```
После проверки и объединения запроса на вытягивание запрос будет доступен для всех пользователей, которые будут использоваться в репозитории.

       **Вызов запроса в рабочем процессе**

Сведения о создании рабочих процессов см. в разделе Написание рабочих процессов.

Необходимо задать models: read разрешение, чтобы разрешить вызов запроса в рабочем процессе.

Ниже приведен пример рабочего процесса, который добавляет сводку, созданную СИ, в качестве комментария к любой недавно созданной проблеме:

YAML

name: Summarize New Issue

on:
  issues:
    types: [opened]

permissions:
  issues: write
  contents: read
  models: read

jobs:
  summarize_issue:
    runs-on: ubuntu-latest
    steps:
      - name: Checkout repository
        uses: actions/checkout@v5

      - name: Install gh-models extension
        run: gh extension install https://github.com/github/gh-models
        env:
          GH_TOKEN: ${{ github.token }}

      - name: Create issue body file
        run: |
          cat > issue_body.txt << 'EOT'
          ${{ github.event.issue.body }}
          EOT

      - name: Summarize new issue
        run: |
          cat issue_body.txt | gh models run --file summarize.prompt.yml > summary.txt
        env:
          GH_TOKEN: ${{ github.token }}

      - name: Update issue with summary
        run: |
          SUMMARY=$(cat summary.txt)
          gh issue comment ${{ github.event.issue.number }} --body "### Issue Summary
          ${SUMMARY}"
        env:
          GH_TOKEN: ${{ github.token }}

name: Summarize New Issue

on:
  issues:
    types: [opened]

permissions:
  issues: write
  contents: read
  models: read

jobs:
  summarize_issue:
    runs-on: ubuntu-latest
    steps:
      - name: Checkout repository
        uses: actions/checkout@v5

      - name: Install gh-models extension
        run: gh extension install https://github.com/github/gh-models
        env:
          GH_TOKEN: ${{ github.token }}

      - name: Create issue body file
        run: |
          cat > issue_body.txt << 'EOT'
          ${{ github.event.issue.body }}
          EOT

      - name: Summarize new issue
        run: |
          cat issue_body.txt | gh models run --file summarize.prompt.yml > summary.txt
        env:
          GH_TOKEN: ${{ github.token }}

      - name: Update issue with summary
        run: |
          SUMMARY=$(cat summary.txt)
          gh issue comment ${{ github.event.issue.number }} --body "### Issue Summary
          ${SUMMARY}"
        env:
          GH_TOKEN: ${{ github.token }}

```
       **Мониторинг и итерацию**
```
Вы можете отслеживать производительность действия и выполнять итерацию по запросу и выбору модели с помощью редактора запроса GitHub Models. Вы также можете использовать расширение CLI для локального тестирования или использовать API для программного обновления настроек запросов и модели.

Вы также можете рассмотреть возможность сохранения ответа модели в виде файла в репозитории, чтобы можно было просматривать и итерировать производительность модели с течением времени. Это позволяет постоянно улучшать качество сводок и обеспечивать их соответствие потребностям вашей команды.

Использование GitHub Models для разработки приложений на основе искусственного интеллекта в вашей организации

Кто может использовать эту функцию?

В этой статье

Почему GitHub Models?

Рекомендации по использованию GitHub Models в масштабе

Сравнение и оценка моделей ИИ для управления и соответствия требованиям

Оценка и оптимизация затрат на использование модели

Использование REST API или расширений REST API GitHub Models для программного управления

Мониторинг, итерацию и интеграцию

Пример. Использование GitHub Models с GitHub Actions для суммирование проблем